UnpicklingError: NEWOBJ 类参数不是类型对象

Question

我正在使用自定义pickler，它根据Shane Hathaway 的代码将任何不可腌制的对象（例如套接字或文件）替换为它们的字符串表示形式： Python: Pickling a dict with some unpicklable items

它大部分时间都有效，但是当我尝试取消 Django HttpResponse 时，我收到以下错误： UnpicklingError: NEWOBJ 类参数不是类型对象

我不知道错误的实际含义。如果可以腌制，为什么不能解开？我在 Google 上找到了三个关于此错误的引用，但没有真正解释它发生的原因或如何解决它。

这是我的代码：

from cPickle import Pickler, Unpickler, UnpicklingError

class FilteredObject:
    def __init__(self, about):
        self.about = about
    def __repr__(self):
        return 'FilteredObject(%s)' % repr(self.about)

class MyPickler(object):
    def __init__(self, file, protocol=2):
        pickler = Pickler(file, protocol)
        pickler.persistent_id = self.persistent_id
        self.dump = pickler.dump
        self.clear_memo = pickler.clear_memo

    def persistent_id(self, obj):
           if not hasattr(obj, '__getstate__') and not isinstance(obj,
        (basestring, bool, int, long, float, complex, tuple, list, set, dict)):
            return ["filtered:%s" % str(obj)]
        else:
            return None

class MyUnpickler(object):
    def __init__(self, file):
        unpickler = Unpickler(file)
        unpickler.persistent_load = self.persistent_load
        self.load = unpickler.load
        self.noload = unpickler.noload

    def persistent_load(self, obj_id):
        if obj_id[0].startswith('filtered:'):
            return FilteredObject(obj_id[0][9:])
        else:
            raise UnpicklingError('Invalid persistent id')

###### serialize to file

f = open('test.txt','wb')
p = MyPickler(f)
p.dump(data)
f.close()

###### unserialize from file

f = open('test.txt','rb')
pickled_data = f.read()
f.seek(0)
u = MyUnpickler(f)
data = u.load()    

Answer 1

成功的酸洗分两步进行，Pickler 的 pickle.dump 和 Unpickler 的 pickle.load。 Pickler 将对象转换为序列化格式（例如字符串），Unpickler 消化腌制的对象并生成一个 应该 与原始对象等效的新对象。 Pickle 有几个函数可用于dump pickle...所以第 1 部分是让对象转换为序列化格式。使用自定义pickler，您可以绕过python 的一些保护措施来pickle pickle 本身无法pickle 的对象。按照您的示例，我可以创建一个简单的 Pickler，通过将每个对象转换为 __repr__，将 lambdas 和诸如此类的东西转换为字符串。

>>> x = lambda x:x
>>> repr(x)
'<function <lambda> at 0x4d39cf0>'
>>> 
>>> import pickle
>>> l = repr(x)
>>> pickle.dumps(l)
"S'<function <lambda> at 0x4d39cf0>'\np0\n."

这肯定是可腌制的，因为它是一个字符串。但是，问题是如何从保存的字符串构建对象。对于 lambda，如果您有一个可以查找内存的函数 字符串中注明的引用，您可以取回对象...但前提是您仍然拥有 在你的记忆中活着的原始物体......所以这不好。因此，只有当__repr__ 字符串中包含足够的信息来从存储的字符串信息中构建一个新对象时，转换为字符串的技巧才有效。您可以对所存储的内容更加感兴趣，但最终很可能会通过将对象转换为字符串而遇到问题。所以这是你的 Pickler 可以工作，但你的 Unpickler 会失败的情况。

字典很有趣，因为它们可以包含任何内容，而且通常做得很快。最讨厌的字典之一是globals() 字典。要序列化它，我会使用dill，它几乎可以序列化python中的任何东西。

>>> import dill
>>> 
>>> def foo(a):
...   def bar(x):
...     return a*x
...   return bar
... 
>>> class baz(object):
...   def __call__(self, a,x):
...     return foo(a)(x)
... 
>>> b = baz()
>>> b(3,2)
6
>>> c = baz.__call__
>>> c(b,3,2)
6
>>> g = dill.loads(dill.dumps(globals()))
>>> g
{'dill': <module 'dill' from '/Library/Frameworks/Python.framework/Versions/7.2/lib/python2.7/site-packages/dill-0.2a.dev-py2.7.egg/dill/__init__.pyc'>, 'c': <unbound method baz.__call__>, 'b': <__main__.baz object at 0x4d61970>, 'g': {...}, '__builtins__': <module '__builtin__' (built-in)>, 'baz': <class '__main__.baz'>, '_version': '2', '__package__': None, '__name__': '__main__', 'foo': <function foo at 0x4d39d30>, '__doc__': None}

实际上，dill 将它的类型注册到pickle 注册表中，所以如果你有一些使用pickle 的黑盒代码并且你不能真正编辑它，那么只需导入 dill 就可以神奇地使其工作而无需猴子补丁第三方代码。

或者，如果您希望将整个解释器会话作为“python 图像”发送过来，dill 也可以这样做。

>>> # continuing from above
>>> dill.dump_session('foobar.pkl')
>>>
>>> ^D
dude@sakurai>$ python
Python 2.7.5 (default, Sep 30 2013, 20:15:49) 
[GCC 4.2.1 (Apple Inc. build 5566)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import dill
>>> dill.load_session('foobar.pkl')
>>> c(b,3,2)
6

Dill 还拥有some good tools，可帮助您了解在代码失败时导致酸洗失败的原因。