【问题标题】:Efficient netCDF analysis when looping through data循环数据时的高效 netCDF 分析
【发布时间】:2013-09-15 14:48:33
【问题描述】:

这是与this question 相关的后续问题。

感谢之前的帮助,我已成功导入 netCDF 文件(或带有 MFDataset 的文件),并且能够将不同时间相互比较以创建另一个累积数据集。这是当前代码的一部分。

from numpy import *
import netCDF4
import os

f = netCDF4.MFDataset('air.2m.1979.nc')

atemp = f.variables['air']

ntimes, ny, nx = atemp.shape
cold_days = zeros((ntimes, ny, nx), dtype=int)

for i in range(ntimes):
  for b in range(ny):
    for c in range(nx):
      if i == 1:
          if atemp[i,b,c] < 0:
            cold_days[i,b,c] = 1
          else:
            cold_days[i,b,c] = 0
      else:
        if atemp[i,b,c] < 0:
          cold_days[i,b,c] = cold_days[i-1,b,c] + 1
        else:
          cold_days[i,b,c] = 0

这似乎是完成工作的一种蛮力方式,虽然它有效,但需要很长时间。我不确定这是否需要这么长时间,因为我正在处理 365 349x277 矩阵(35,285,645 像素),或者与一些内置的 python 方法相比,我的旧学校蛮力方法是否简单。

以下是我认为代码正在执行的操作的示例。如果 temp = 0,则寒冷天数会重置为 0。在下图中,您将看到第 2 行第 1 列的单元格每次经过的时间都会增加,但单元格在第 2 行第 2 列在时间 1 递增,但在时间 2 重置为零。

是否有更有效的方法来翻阅此 netCDF 数据集以执行此类操作?

【问题讨论】:

  • 你为什么决定遍历 x 和 y?答案stackoverflow.com/questions/18665078/… 不会在 x 和 y 上循环,而且会快得多。
  • for i in xrange(ntimes): cold_days += atemp[i,:,:].data-273.15 替换 x 和 y
  • 我收到一个错误。我也试过 atemp[i,:,:].data。 if atemp[i,:,:]
  • 我想我还是不知道你在做什么。您不希望平均温度小于零的总天数?
  • 我想计算平均温度小于零的天数,但每天递增。在第 1 天,如果温度 =0 时,计数应该重置为 0。所以如果第 3 天为 +3,则该天应为 0。因此,第 1 天为 1,第 2 天为 2,第 3 天为 0。如果第 4 天

标签: python numpy netcdf


【解决方案1】:

似乎这是一个小的修改——只需在每个时间步写出数据。接近这个的东西应该可以工作:

from pylab import *
import netCDF4

# open NetCDF input files

f = netCDF4.MFDataset('/usgs/data2/rsignell/models/ncep/narr/air.2m.19??.nc')
# print variables
f.variables.keys()

atemp = f.variables['air']
print atemp

ntimes, ny, nx = shape(atemp)
cold_days = zeros((ny,nx),dtype=int)

# create output NetCDF file

nco = netCDF4.Dataset('/usgs/data2/notebook/cold_days.nc','w',clobber=True)
nco.createDimension('x',nx)
nco.createDimension('y',ny)
nco.createDimension('time',ntimes)

cold_days_v = nco.createVariable('cold_days', 'i4',  ( 'time', 'y', 'x'))
cold_days_v.units='days'
cold_days_v.long_name='total number of days below 0 degC'
cold_days_v.grid_mapping = 'Lambert_Conformal'

timeo = nco.createVariable('time','f8',('time'))
lono = nco.createVariable('lon','f4',('y','x'))
lato = nco.createVariable('lat','f4',('y','x'))
xo = nco.createVariable('x','f4',('x'))
yo = nco.createVariable('y','f4',('y'))
lco = nco.createVariable('Lambert_Conformal','i4')

# copy all the variable attributes from original file
for var in ['time','lon','lat','x','y','Lambert_Conformal']:
    for att in f.variables[var].ncattrs():
        setattr(nco.variables[var],att,getattr(f.variables[var],att))

# copy variable data for time, lon,lat,x and y
timeo[:] = f.variables['time'][:]
lato[:] = f.variables['lat'][:]
xo[:] = f.variables['x'][:]
yo[:] = f.variables['y'][:]

for i in xrange(ntimes):
    cold_days += atemp[i,:,:].data-273.15 < 0
    #  write the cold_days data
    cold_days_v[i,:,:]=cold_days


# copy Global attributes from original file
for att in f.ncattrs():
    setattr(nco,att,getattr(f,att))

nco.Conventions='CF-1.6'
nco.close()

【讨论】:

  • 我没有在上面的方法和 Rich 的方法之间做太多测试,但从我看到的情况来看,两者似乎以大致相同的速度工作。
猜你喜欢
  • 2021-03-14
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2016-01-03
  • 1970-01-01
  • 2017-08-22
相关资源
最近更新 更多