使用 c 扩展 python/django 和使用 apache 扩展 mod_wsgi

Question

我有一个关于使用 c 代码和 mod_wsgi 扩展 python 的问题。

我在 apache 服务器中有一个 django 应用程序，它查询 postgresql 数据库以生成报告。在某些报告中，系统会创建一个包含结果的 csv 文件。要创建这个 csv 文件，有时系统必须使用 python 处理超过 20 万个寄存器，这显然非常慢。为了加速这一点，我们编写了一个 c 模块来完成这项工作，并且将速度提高了很多倍。我们已经尝试使用 ctypes 并使用 c 创建了一个 python 模块，它们在 runserver 中都可以正常工作，但是在使用 apache 和 mod_wsgi 执行时会崩溃。

httpd-error.log 中的错误是：

[Wed Jul 27 02:33:52 2011] [notice] child pid 44657 exit signal Segmentation fault (11)

¿有什么建议吗？

代码是：

# Creates the HttpResponse object with the appropriate CSV header.
response = HttpResponse(mimetype='application/x-zip-compressed')
response['Content-Disposition'] = \
    'attachment; filename=' + filename + '.zip'

p0 = 'descarga_' + str(datetime.today()) + '.csv'

p1 = settings.DATABASES['default']['NAME']
p2 = settings.DATABASES['default']['USER']

#lib.generar(string_at(p0),p1,p2,string_at(str(init)),string_at(str(end)),string_at(str(provider)))

import generador
generador.generar(p0,p1,p2,str(init),str(end),str(provider))

当我们调用用 C 语言开发的外部模块generator.generar() 后它崩溃了

我也尝试过使用 GDb 作为@GrahamDumpleton 的建议，这是输出，不是很有用:(

调试器启动，当我单击调用 c 模块的执行链接时，它再次陷入分段错误

(gdb) run -X
The program being debugged has been started already.
Start it from the beginning? (y or n) y
Starting program: /usr/local/sbin/httpd -X
[New LWP 101064]
[New Thread 28501140 (LWP 101064)]


Program received signal SIGSEGV, Segmentation fault.
[Switching to Thread 28501140 (LWP 101064)]
0x2847d423 in fwrite () from /lib/libc.so.7

在分段错误之后，我尝试在调试器中使用“where”命令，结果如下：

(gdb) where
#0  0x2847d423 in fwrite () from /lib/libc.so.7
#1  0x293f8d09 in generar () from /ruta/al/codigo/generador.so
#2  0x28912caa in PyCFunction_Call () from /usr/local/lib/libpython2.7.so
#3  0x2896e49a in PyEval_EvalFrameEx () from /usr/local/lib/libpython2.7.so
#4  0x2897044b in PyEval_EvalCodeEx () from /usr/local/lib/libpython2.7.so
#5  0x288feafd in PyClassMethod_New () from /usr/local/lib/libpython2.7.so
#6  0x288d622c in PyObject_Call () from /usr/local/lib/libpython2.7.so
#7  0x2896c27a in PyEval_EvalFrameEx () from /usr/local/lib/libpython2.7.so
#8  0x2896fadc in PyEval_EvalFrameEx () from /usr/local/lib/libpython2.7.so
#9  0x2897044b in PyEval_EvalCodeEx () from /usr/local/lib/libpython2.7.so
#10 0x288fea0a in PyClassMethod_New () from /usr/local/lib/libpython2.7.so
#11 0x288d622c in PyObject_Call () from /usr/local/lib/libpython2.7.so
#12 0x288e4fd8 in PyClass_IsSubclass () from /usr/local/lib/libpython2.7.so
#13 0x288d622c in PyObject_Call () from /usr/local/lib/libpython2.7.so
#14 0x2893044c in _PyObject_LookupSpecial () from /usr/local/lib/libpython2.7.so
#15 0x288d622c in PyObject_Call () from /usr/local/lib/libpython2.7.so
#16 0x28968ec4 in PyEval_CallObjectWithKeywords () from /usr/local/lib/libpython2.7.so
#17 0x2889b229 in Adapter_run (self=0x28b4dd58, object=0x28c7d50c) at mod_wsgi.c:3841
#18 0x2889be50 in wsgi_execute_script (r=0x28cb4058) at mod_wsgi.c:6547
#19 0x2889de66 in wsgi_hook_handler (r=0x28cb4058) at mod_wsgi.c:9080
#20 0x08076b19 in ap_run_handler (r=0x28cb4058) at config.c:157
#21 0x08079dee in ap_invoke_handler (r=0x28cb4058) at config.c:376
#22 0x08084eb0 in ap_process_request (r=0x28cb4058) at http_request.c:282
#23 0x0808201b in ap_process_http_connection (c=0x28b201f0) at http_core.c:190
#24 0x0807de09 in ap_run_process_connection (c=0x28b201f0) at connection.c:43
#25 0x08089791 in child_main (child_num_arg=Variable "child_num_arg" is not available.
) at prefork.c:662
#26 0x080899e3 in make_child (s=0x28510f10, slot=0) at prefork.c:707
#27 0x0808a591 in ap_mpm_run (_pconf=0x2850f018, plog=0x2853d018, s=0x28510f10) at  prefork.c:983
#28 0x08064195 in main (argc=676384792, argv=0x28b1e018) at main.c:739

Answer 1

尝试设置：

WSGIApplicationGroup %{GLOBAL}

并强制应用程序在主 Python 解释器中运行。

可能您的 C 扩展未正确编写以与 Python 子解释器一起使用。

见：

http://code.google.com/p/modwsgi/wiki/ApplicationIssues#Python_Simplified_GIL_State_API

您的代码也可能有问题，在 mod_wsgi 下使用它会显示 Python 命令行的问题。

见：

http://code.google.com/p/modwsgi/wiki/DebuggingTechniques#Debugging_Crashes_With_GDB

关于如何调试发生崩溃的位置。

---

更新 1

在构建扩展模块时，为了帮助在 gdb 中进行调试，请确保在编译扩展模块时未打开优化并且调试选项已打开。

对于 setup.py 驱动的扩展模块构建，我觉得有必要添加：

from distutils import sysconfig
dummy = sysconfig.get_config_vars('CFLAGS', 'OPT')
config_vars = sysconfig._config_vars
config_vars['CFLAGS'] = config_vars['CFLAGS'].replace(' -Os ', ' ')
config_vars['OPT'] = config_vars['OPT'].replace(' -Os ', ' ')

这样可以摆脱 -Os 选项。是 -Os 还是 -O 取决于你的 Python 安装。

然后在构建扩展模块时检查编译器选项中的 -g 并在需要时添加它。

完成后，您可以使用 gdb 实际转储变量值、获取实际行号等。