我正在为某些文档格式做一个文档查看器。为方便起见，假设这是一个 PDF 查看器，一个桌面应用程序。对软件的一项要求是渲染速度。所以，现在，当用户滚动浏览文档时，我正在为下一页缓存图像。
这行得通，UI 响应速度非常快，看起来应用程序几乎可以立即呈现页面......但代价是：内存使用量有时会达到 600MB。我把它全部缓存在内存中。
现在，我可以缓存到磁盘，我知道，但是一直这样做会明显变慢。我想做的是实现一些缓存（LRU？），其中一些缓存页面（图像对象）在内存上，其中大部分在磁盘上。
在我开始这个之前，框架或某个库中有什么东西可以为我做这件事吗？这似乎是一个相当普遍的问题。 （这是一个桌面应用程序，不是 ASP.NET）
或者，您对这个问题还有其他想法吗？
【问题讨论】：
我写了一个 LRU Cache 和一些测试用例，请随意使用。
您可以在my blog 上阅读源代码。
对于懒惰的人（这里是减去测试用例）：
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
namespace LRUCache {
public class IndexedLinkedList<T> {
LinkedList<T> data = new LinkedList<T>();
Dictionary<T, LinkedListNode<T>> index = new Dictionary<T, LinkedListNode<T>>();
public void Add(T value) {
index[value] = data.AddLast(value);
}
public void RemoveFirst() {
index.Remove(data.First.Value);
data.RemoveFirst();
}
public void Remove(T value) {
LinkedListNode<T> node;
if (index.TryGetValue(value, out node)) {
data.Remove(node);
index.Remove(value);
}
}
public int Count {
get {
return data.Count;
}
}
public void Clear() {
data.Clear();
index.Clear();
}
public T First {
get {
return data.First.Value;
}
}
}
}
LRUCache
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
namespace LRUCache {
public class LRUCache<TKey, TValue> : IDictionary<TKey, TValue> {
object sync = new object();
Dictionary<TKey, TValue> data;
IndexedLinkedList<TKey> lruList = new IndexedLinkedList<TKey>();
ICollection<KeyValuePair<TKey, TValue>> dataAsCollection;
int capacity;
public LRUCache(int capacity) {
if (capacity <= 0) {
throw new ArgumentException("capacity should always be bigger than 0");
}
data = new Dictionary<TKey, TValue>(capacity);
dataAsCollection = data;
this.capacity = capacity;
}
public void Add(TKey key, TValue value) {
if (!ContainsKey(key)) {
this[key] = value;
} else {
throw new ArgumentException("An attempt was made to insert a duplicate key in the cache.");
}
}
public bool ContainsKey(TKey key) {
return data.ContainsKey(key);
}
public ICollection<TKey> Keys {
get {
return data.Keys;
}
}
public bool Remove(TKey key) {
bool existed = data.Remove(key);
lruList.Remove(key);
return existed;
}
public bool TryGetValue(TKey key, out TValue value) {
return data.TryGetValue(key, out value);
}
public ICollection<TValue> Values {
get { return data.Values; }
}
public TValue this[TKey key] {
get {
var value = data[key];
lruList.Remove(key);
lruList.Add(key);
return value;
}
set {
data[key] = value;
lruList.Remove(key);
lruList.Add(key);
if (data.Count > capacity) {
data.Remove(lruList.First);
lruList.RemoveFirst();
}
}
}
public void Add(KeyValuePair<TKey, TValue> item) {
Add(item.Key, item.Value);
}
public void Clear() {
data.Clear();
lruList.Clear();
}
public bool Contains(KeyValuePair<TKey, TValue> item) {
return dataAsCollection.Contains(item);
}
public void CopyTo(KeyValuePair<TKey, TValue>[] array, int arrayIndex) {
dataAsCollection.CopyTo(array, arrayIndex);
}
public int Count {
get { return data.Count; }
}
public bool IsReadOnly {
get { return false; }
}
public bool Remove(KeyValuePair<TKey, TValue> item) {
bool removed = dataAsCollection.Remove(item);
if (removed) {
lruList.Remove(item.Key);
}
return removed;
}
public IEnumerator<KeyValuePair<TKey, TValue>> GetEnumerator() {
return dataAsCollection.GetEnumerator();
}
System.Collections.IEnumerator System.Collections.IEnumerable.GetEnumerator() {
return ((System.Collections.IEnumerable)data).GetEnumerator();
}
}
}
【讨论】：
对于 .NET 4.0，您还可以使用来自 System.Runtime.Caching 的 MemoryCache。
http://msdn.microsoft.com/en-us/library/system.runtime.caching.aspx
【讨论】：
有patterns & practices Enterprise Library（更具体地说，Caching Application Block），但它在 IMO 中往往设计过度且过于复杂。
【讨论】：
.NET Framework 始终能够将weak references 保留给对象。
基本上，弱引用是对运行时认为“不重要”的对象的引用，并且可能会在任何时间点运行的垃圾回收中删除。例如，这可用于缓存内容，但您无法控制收集哪些内容以及不收集哪些内容。
另一方面，它使用起来非常简单，可能正是您所需要的。
戴夫
【讨论】：
典型的权衡情况。将所有内容保存在内存中会很快，但会大大增加内存消耗，而从磁盘中检索会减少内存消耗，但性能不高。不过，这一切你都已经知道了！
内置的System.Web.Caching.Cache 类很棒，我自己在我的 ASP.NET 应用程序中多次使用它，效果很好（虽然主要用于数据库记录缓存），但是缺点是缓存会只能在一台机器上运行（通常是单独的 Web 服务器），不能分布在多台机器上。
如果可以“抛出一些硬件”来解决问题，而且它不一定需要昂贵的硬件，只要有足够内存的盒子，你总是可以使用分布式缓存解决方案。这将为您提供更多的内存来玩，同时保持（几乎）相同的性能水平。
.NET 的分布式缓存解决方案的一些选项是：
甚至是微软自己的Velocity 项目。
【讨论】：
你是如何实现你的缓存的？
即使在非 Web 应用程序中，您也可以使用 Cache class from System.Web.Caching，它会在需要内存时基于 LRU 清除项目。
在非 Web 应用程序中，您需要使用 HttpRuntime.Cache 来访问 Cache 实例。
请注意，文档指出Cache 类不打算在 ASP.NET 之外使用，尽管它总是对我有用。 （不过，我从未在任何关键任务应用程序中依赖它。）
【讨论】：
缓存应用程序块和 ASP.NET 缓存都是选项，尽管它们使用 LRU，但发生的唯一一种磁盘利用率是通过内存分页。我认为有一些方法可以优化它，这些方法更具体到你的目标，以获得更好的输出。以下是一些想法：
不过，我当然会避免使用普通的哈希表。
【讨论】：
添加到rsbarro 的answer 以使用MemoryCache 我建议使用
中所述的 PostSharp AOPhttp://www.codeproject.com/Articles/493971/Leveraging-MemoryCache-and-AOP-for-expensive-calls
【讨论】：
有一个高效的开源 RAM 虚拟器，它使用 MRU 算法将最新的引用对象保留在内存中，并使用快速、轻量级的后备存储（在磁盘上）进行“分页”。
这里是代码项目中关于它的小文章的链接：http://www.codeproject.com/Tips/827339/Virtual-Cache
希望对你有用。
【讨论】：