查询 SQL Server 以获取 numpy 的最佳方法

Question

在之前的程序中，我从 csv 文件中读取数据，如下所示：

AllData = np.genfromtxt(open("PSECSkew.csv", "rb"),
                        delimiter=',',
                        dtype=[('CalibrationDate', datetime),('Expiry', datetime), ('B0', float), ('B1', float), ('B2', float), ('ATMAdjustment', float)],
                        converters={0: ConvertToDate, 1: ConvertToDate})

我现在正在编写一个非常相似的程序，但这次我想获得一个与 AllData 非常相似的数据结构（除了这次浮点数都在一个 csv 字符串中），但来自 SQL Server 而不是 csv文件。最好的方法是什么？

pyodbc 看起来它涉及到大量使用游标，我不熟悉并希望避免。我只想运行查询并以上述结构（或 C# 中的 DataTable）获取数据。

Answer 1

使用熊猫怎么样？例如：

import psycopg2
import pandas

try :
    con = psycopg2.connect(
    host = "host",
    database = "innovate",
    user = "username",
    password = "password")
except:
    print "Could not connect to database."

data = pandas.read_sql_query("SELECT * FROM table", con)

Answer 2

与此同时，还有更好的方法。查看turbodbc 包。要将您的结果集转换为 NumPy 数组的 OrderedDict，只需执行以下操作：

import turbodbc
connection = turbodbc.connect(dsn="My data source name")
cursor = connection.cursor()
cursor.execute("SELECT 42")
results = cursor.fetchallnumpy()

它也应该比 pyodbc 快得多（取决于您的数据库，因子 10 是绝对可能的）。

Answer 3

最后我只是使用了 pyodbc 并遍历游标/结果集，通过大量的试验和错误将每个结果放入手动构造的结构化数组中。如果有更直接的方法，我会全力以赴！

import numpy as np
import pyodbc as SQL
from datetime import datetime


cxn = SQL.connect('Driver={SQL Server};Server=myServer; Database=myDB; UID=myUserName; PWD=myPassword')
c = cxn.cursor()

#Work out how many rows the query returns in order to initialise the structured array with the correct number of rows
num_rows = c.execute('SELECT count(*) FROM PSECSkew').fetchone()[0]

#Create the structured array
AllData = np.zeros(num_rows, dtype=[('CalibrationDate', datetime),('Expiry', datetime), ('B0', float), ('B1', float), ('B2', float), ('ATMAdjustment', float)])

ConvertToDate = lambda s:datetime.strptime(s,"%Y-%m-%d")

#iterate using the cursor and fill the structred array.
r = 0
for row in c.execute('SELECT * FROM PSECSkew ORDER BY CalibrationDate, Expiry'):
    AllData[r] = (ConvertToDate(row[0]), ConvertToDate(row[1])) + row[2:] #Note if you don't need manipulate the data (i.e. to convert the dates in my case) then just tuple(row) would have sufficed
    r = r + 1

Answer 4

这是一个基于您链接到的other question 的最小示例：

import pyodbc
import numpy

conn = pyodbc.connect('DRIVER={SQL Server};SERVER=MyServer;Trusted_Connection=yes;')
cur = conn.cursor()
cur.execute('select object_id from sys.objects')
results = cur.fetchall()
results_as_list = [i[0] for i in results]
array = numpy.fromiter(results_as_list, dtype=numpy.int32)
print array