【问题标题】:Is there a BigMemory like system for .net.net 是否有类似 BigMemory 的系统
【发布时间】:2011-11-03 14:03:27
【问题描述】:

我刚刚向reading 了解 BigMemory 如何允许 Java 系统扩展而不是扩展。

关于BigMemory

BigMemory 让 Java 应用程序可以即时、轻松地访问 大内存占用,不受垃圾回收的限制。

BigMemory 是纯 Java 并提供 进程内堆外缓存 让您可以将大量数据(高达 TB)存储在离您更近的地方 应用。

这一突破性的解决方案提高了内存利用率 以及独立和分布式的应用程序性能 缓存。

那么我如何对 .net 做同样的事情,例如进程内、堆外缓存。 (注意 Asp.net 缓存在垃圾收集堆上)

【问题讨论】:

  • CLR已经内置了这个特性,叫做大对象堆。
  • @Ian 您到底想做什么而您还不能做?你想解决什么问题?
  • 查看 memcached 或 Velocity [这是一个开始的 SO 问题][1] [1]:stackoverflow.com/q/397824/157224
  • @adrianm OP 想要一些“正在进行中”的东西。
  • @Hans,大型对象堆仍在垃圾收集中,必须由完整的 GC 扫描。它也只保存 large 对象。尝试将 128GB 的​​数据放入大对象堆中,看看它对 GC 做了什么......

标签: .net garbage-collection scalability terracotta ehcache-bigmemory


【解决方案1】:

不,没有适用于 .Net 的 BigMemory 系统(即进程内非 GC 堆内存管理器),但是您可以自行开发。

您可以利用非托管堆来收集非垃圾的进程内堆,但是,如果您使用的是对象而不是原始内存,则必须对它们进行序列化和反序列化,这很慢。

您需要查找堆信息以便检索对象,这显然有其自身的内存开销,因此不适合大量非常小的对象,例如:

一个。管理对象会占用大量内存。
湾。 GC 会疯狂扫描管理对象。

如果对象足够大并且没有太多个对象,这可能适合你。

但是,您也可以将一些管理信息推送到非托管堆中。有很多优化机会。

这一切都可以像键\值缓存一样被包装起来,从而抽象出堆信息和堆。

更新

更新了示例代码以使用 Protobuf,它的二进制序列化速度明显快于 .Net。这个简单的示例每秒可以 Put+Get 425k 个对象,带有键\值包装器。您的米数会因对象大小\复杂性而异。

对象大小存储在非托管堆中,以减少托管堆上的内存消耗。

...
...
using ProtoBuf;

[TestFixture]
public class UnmanagedHeap
{
    [Test]
    public void UnmanagedHeapAccess()
    {
        const int Iterations = 425 * 1000;
        const string Key = "woo";

        Bling obj = new Bling { Id = -666 };
        Cache cache = new Cache();
        Stopwatch sw = Stopwatch.StartNew();

        for (int i = 0; i < Iterations; i++)
        {
            cache.Put(Key, obj);

            obj = cache.Get<Bling>(Key);
        }

        cache.Remove(Key);

        Console.WriteLine(sw.Elapsed.TotalMilliseconds);
    }

    [DataContract]
    public class Bling
    {
        [DataMember(Order = 1)]
        public int Id { get; set; }
    }

    public class Cache
    {
        private const int SizeFieldWidth = 4;

        private readonly Dictionary<string, IntPtr> _lookup = new Dictionary<string, IntPtr>();

        public void Put(string key, object obj)
        {
            IntPtr oldPtr = _lookup.TryGetValue(key, out oldPtr) ? oldPtr : IntPtr.Zero;

            IntPtr newPtr = SerializeToHeap(obj, oldPtr);

            _lookup[key] = newPtr;
        }

        public T Get<T>(string key)
        {
            IntPtr ptr = _lookup[key];

            return DeserializeFromHeap<T>(ptr);
        }

        public void Remove(string key)
        {
            IntPtr ptr = _lookup[key];

            Marshal.FreeHGlobal(ptr);

            _lookup.Remove(key);
        }

        private static IntPtr SerializeToHeap(object obj, IntPtr oldPtr)
        {
            using (MemoryStream ms = new MemoryStream())
            {
                Serializer.Serialize(ms, obj);
                byte[] objBytes = ms.GetBuffer();
                int newSize = (int)ms.Length;
                bool requiresAlloc = true;

                if (oldPtr != IntPtr.Zero)
                {
                    int oldSize = GetObjectSize(oldPtr);

                    requiresAlloc = (oldSize != newSize);
                }

                IntPtr newPtr = requiresAlloc ? Marshal.AllocHGlobal(newSize + SizeFieldWidth) : oldPtr;

                byte[] sizeField = BitConverter.GetBytes(newSize);
                Marshal.Copy(sizeField, 0, newPtr, SizeFieldWidth);
                Marshal.Copy(objBytes, 0, newPtr + SizeFieldWidth, newSize);
                return newPtr;
            }
        }

        private static T DeserializeFromHeap<T>(IntPtr ptr)
        {
            int size = GetObjectSize(ptr);
            byte[] objBytes = new byte[size];
            Marshal.Copy(ptr + SizeFieldWidth, objBytes, 0, size);

            using (MemoryStream ms = new MemoryStream(objBytes))
            {
                return Serializer.Deserialize<T>(ms);
            }
        }

        private static int GetObjectSize(IntPtr ptr)
        {
            byte[] sizeField = new byte[SizeFieldWidth];
            Marshal.Copy(ptr, sizeField, 0, SizeFieldWidth);
            int size = BitConverter.ToInt32(sizeField, 0);
            return size;
        }
    }
}

【讨论】:

  • 对于目前正在查看此内容的任何人,我建议您查看 Microsoft Bond 而不是 Protobuf
  • 我认为,每当您使用具有requiresAlloc == true 的对象的相同键两次调用put 时,您都有一个非托管内存韭菜。您需要在 if (oldPtr != IntPtr.Zero) 块内有一个 if (requiresAlloc) Marshal.FreeHGlobal(oldPtr)。如果Cache 不为空并且您让它超出范围,那么您还有一个讨厌的内存韭菜,但是如果您将IntPtr 切换为SafeHandle,在清理时调用Marshal.FreeHGlobal 将解决该问题(使它是一次性的,并且将缓存清空也是一个不错的功能。
【解决方案2】:

是的,有 100% 托管代码。 上述答案中建议的 ProtoBuf 不会为您提供 100% 的透明度,因为 它不能正确映射多态引用和循环+需要特殊属性。 NFX Pile 不需要 [Serializable] 以外的任何东西

https://github.com/aumcode/nfx https://github.com/aumcode/nfx/blob/master/Source/NFX/ApplicationModel/Pile/IPile.cs

https://github.com/aumcode/nfx/blob/master/Source/NFX/ApplicationModel/Pile/ICache.cs

观看视频: https://www.youtube.com/watch?v=IUBF2Ncvbbs

https://www.youtube.com/watch?v=Dz_7hukyejQ

Apache 2.0

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2013-05-12
    • 2010-10-26
    • 1970-01-01
    • 2011-09-11
    • 1970-01-01
    • 1970-01-01
    • 2010-12-14
    • 2013-05-08
    相关资源
    最近更新 更多