parse_dates 如何与 pd.read_sql_query 一起使用答案

【问题标题】：How does parse_dates work with pd.read_sql_queryparse_dates 如何与 pd.read_sql_query 一起使用
【发布时间】：2018-11-03 18:16:08
【问题描述】：

从 MySQL 数据库检索数据时，Pandas parse_date 应该如何工作？

Pandas 0.23 的文档提供了以下信息：

parse_dates：列表或字典，默认：无

要解析为日期的列名列表。

{column_name: 格式的字典 string} 在解析的情况下，格式字符串与 strftime 兼容字符串时间，或者在解析的情况下是 (D, s, ns, ms, us) 之一整数时间戳。

{column_name: arg dict} 的字典，其中 arg dict 对应 pandas.to_datetime() 的关键字参数对于没有本机日期时间支持的数据库特别有用，例如作为 SQLite。

我想从 MySQL Sakila 数据库中检索一些数据。

create table actor
(
    actor_id smallint(5) unsigned auto_increment
        primary key,
    first_name varchar(45) not null,
    last_name varchar(45) not null,
    last_update timestamp not null on update CURRENT_TIMESTAMP,
    constraint idx_unique_id_name
        unique (actor_id, last_name)
)

这是一些示例数据：

INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (1, 'PENELOPE', 'None', '2018-05-17 11:08:03');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (2, 'NICK', 'WAHLBERG', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (3, 'ED', 'CHASE', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (4, 'JENNIFER', 'DAVIS', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (5, 'JOHNNY', 'LOLLOBRIGIDA', '2018-05-17 11:14:15');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (6, 'BETTE', 'Echt', '2018-05-17 11:13:57');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (7, 'GRACE', 'MOSTEL', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (8, 'MATTHEW', 'JOHANSSON', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (9, 'JOE', 'SWANK', '2006-02-15 04:34:33');
INSERT INTO sakila.actor (actor_id, first_name, last_name, last_update) VALUES (10, 'CHRISTIAN', 'GABLE', '2006-02-15 04:34:33');

我使用默认的 MySQL Python 连接器：

    db_connection_url = 'mysql+mysqlconnector://' \
                        + mysql_config_dict['user'] \
                        + ":"  \
                        + mysql_config_dict['password'] \
                        + "@" \
                        + mysql_config_dict['host'] \
                        + ":" \
                        + mysql_config_dict['port'] \
                        + "/"  \
                        + mysql_config_dict['db_name']

    if('ssl_cert' in mysql_config_dict):

        ssl_args = {'ssl_ca':mysql_config_dict['ssl_ca']}

    else:
        ssl_args = ''

使用这些参数

mysql_config_dict = {
    'user': 'root',
    'password': '',
    'host':  '127.0.0.1',
    'port': '3306',
    'db_name':  'sakila',
    'ssl_cert': os.getenv('SSL_CERT'),
    'ssl_key': os.getenv('SSL_KEY'),
    'ssl_ca': os.getenv('SSL_CA')
}

获取引擎。

Python sn-p 检索结果集：

df = pd.read_sql_query('SELECT a.actor_id, a.last_name, a.last_update FROM sakila.actor a',parse_dates={'last_update':'%Y%m%d %H:%M:%S'},con=mysql_conn)

我得到一个 KeyError：

Traceback (most recent call last):
  File "~/Development/python-virtual-env/lib/python3.5/site-packages/pandas/core/indexes/base.py", line 2442, in get_loc
    return self._engine.get_loc(key)
  File "pandas/_libs/index.pyx", line 132, in pandas._libs.index.IndexEngine.get_loc (pandas/_libs/index.c:5280)
  File "pandas/_libs/index.pyx", line 154, in pandas._libs.index.IndexEngine.get_loc (pandas/_libs/index.c:5126)
  File "pandas/_libs/hashtable_class_helper.pxi", line 1210, in pandas._libs.hashtable.PyObjectHashTable.get_item (pandas/_libs/hashtable.c:20523)
  File "pandas/_libs/hashtable_class_helper.pxi", line 1218, in pandas._libs.hashtable.PyObjectHashTable.get_item (pandas/_libs/hashtable.c:20477)
KeyError: 'last_update'

当我使用时

df = pd.read_sql_query('SELECT a.actor_id, a.last_name, a.last_update FROM sakila.actor a',parse_dates=True,con=mysql_conn)

它可以工作，但我可以在 IntelliJ 的 DataFrame 视图中看到，“last_update”列的列名以字节文字为前缀：b'last_update'，这很奇怪。

当我想将多个列视为日期列时，这里的正确用法是什么。谢谢！

【问题讨论】：

标签： python mysql pandas date

【解决方案1】：

当我调用 pd.read_sql 时，我将列表中的字段名称传递给 parse_dates：

df= pd.read_sql(query, 
                connection, 
                parse_dates=['Date_of_creation', 
                             'Date_of_termination']
                )

您提到使用字典进行自定义格式：

fmt='%Y%m%d %H:%M:%S'

df= pd.read_sql(query, 
                connection, 
                parse_dates={'Date_of_creation':fmt,
                             'Date_of_termination':fmt}
                )

【讨论】：