将 OpenGL 纹理渲染到 CGContext 的最快方法

Question

这是一个简短的问题：

对于某些图层合成，我必须在 CGContext 中渲染 OpenGL 纹理。最快的方法是什么？

目前的想法：

显然，调用renderInContext不会捕获OpenGL内容，而且glReadPixels太慢了。

对于某些“上下文”，我在层的委托类中调用此方法：

- (void) drawLayer:(CALayer *)layer inContext:(CGContextRef)ctx

我考虑过使用 CVOpenGLESTextureCache，但这需要额外的渲染，而且渲染后似乎需要进行一些复杂的转换。

这是我现在的（糟糕的）实现：

glBindRenderbuffer(GL_RENDERBUFFER, displayRenderbuffer);

NSInteger x = 0, y = 0, width = backingWidth, height = backingHeight;
NSInteger dataLength = width * height * 4;
GLubyte *data = (GLubyte *) malloc(dataLength * sizeof(GLubyte));

glPixelStorei(GL_PACK_ALIGNMENT, 4);
glReadPixels(x, y, width, height, GL_RGBA, GL_UNSIGNED_BYTE, data);

CGDataProviderRef ref = CGDataProviderCreateWithData(NULL, data, dataLength, NULL);
CGColorSpaceRef colorspace = CGColorSpaceCreateDeviceRGB();
CGImageRef iref = CGImageCreate(width, height, 8, 32, width * 4, colorspace, kCGBitmapByteOrder32Big | kCGImageAlphaPremultipliedLast,
                                ref, NULL, true, kCGRenderingIntentDefault);

CGFloat scale = self.contentScaleFactor;
NSInteger widthInPoints, heightInPoints;
widthInPoints = width / scale;
heightInPoints = height / scale;

CGContextSetBlendMode(context, kCGBlendModeCopy);
CGContextDrawImage(context, CGRectMake(0.0, 0.0, widthInPoints, heightInPoints), iref);

// Clean up
free(data);
CFRelease(ref);
CFRelease(colorspace);
CGImageRelease(iref);

Answer 1

对于任何好奇的人，上面显示的方法不是最快的方法。

当一个 UIView 被要求提供它的内容时，它会要求它的层（通常是一个 CALayer）为它绘制它们。例外：使用 CAEAGLLayer（CALayer 的子类）的基于 OpenGL 的视图使用相同的方法但不返回任何内容。 没有绘图发生。

所以，如果你打电话：

[someUIView.layer drawInContext:someContext];

它会起作用，而

[someOpenGLView.layer drawInContext:someContext];

不会。

如果您向任何基于 OpenGL 的视图的超级视图询问其内容，这也会成为一个问题：它会递归地向其每个子视图询问其内容，并且任何使用 CAEAGLLayer 的子视图都不会返回任何内容（您的会看到一个黑色矩形）。

我在上面开始寻找 CALayer 的委托方法 drawLayer:inContext: 的实现，我可以在任何基于 OpenGL 的视图中使用它，以便视图对象本身提供其内容（而不是层）。委托方法被自动调用：Apple 期望它以这种方式工作。

如果性能不是问题，您可以在视图中实现简单快照方法的变体。该方法如下所示：

- (void) drawLayer:(CALayer *)layer inContext:(CGContextRef)ctx {

    GLint backingWidth, backingHeight;

    glBindRenderbufferOES(GL_RENDERBUFFER_OES, _colorRenderbuffer);

    glGetRenderbufferParameterivOES(GL_RENDERBUFFER_OES, GL_RENDERBUFFER_WIDTH_OES, &backingWidth);
    glGetRenderbufferParameterivOES(GL_RENDERBUFFER_OES, GL_RENDERBUFFER_HEIGHT_OES, &backingHeight);

    NSInteger x = 0, y = 0, width = backingWidth, height = backingHeight;
    NSInteger dataLength = width * height * 4;
    GLubyte *data = (GLubyte*)malloc(dataLength * sizeof(GLubyte));

    // Read pixel data from the framebuffer
    glPixelStorei(GL_PACK_ALIGNMENT, 4);
    glReadPixels(x, y, width, height, GL_RGBA, GL_UNSIGNED_BYTE, data);

    CGDataProviderRef ref = CGDataProviderCreateWithData(NULL, data, dataLength, NULL);
    CGColorSpaceRef colorspace = CGColorSpaceCreateDeviceRGB();
    CGImageRef iref = CGImageCreate(width, height, 8, 32, width * 4, colorspace, kCGBitmapByteOrder32Big | kCGImageAlphaPremultipliedLast,
                                ref, NULL, true, kCGRenderingIntentDefault);
    CGContextDrawImage(ctx, self.bounds, iref);
}

但是！这不是一个有效的表现。

glReadPixels，正如几乎随处可见的那样，并不是一个快速调用。从 iOS 5 开始，Apple 公开了 CVOpenGLESTextureCacheRef - 基本上是一个共享缓冲区，可以用作 CVPixelBufferRef 和 OpenGL 纹理。最初，它的设计目的是用作从视频帧中获取 OpenGL 纹理的一种方式：现在它更经常反向使用，从纹理中获取视频帧。

因此，上述想法的更好实现是使用从 CVOpenGLESTextureCacheCreateTextureFromImage 获得的 CVPixelBufferRef，直接访问这些像素，将它们绘制到缓存中的 CGImage 中，并在上面的委托方法中将其绘制到上下文中。

代码在这里。在每个渲染过程中，您将纹理绘制到纹理缓存中，该纹理缓存链接到 CVPixelBuffer Ref：

- (void) renderToCGImage {

 // Setup the drawing
[ochrContext useProcessingContext];
glBindFramebuffer(GL_FRAMEBUFFER, layerRenderingFramebuffer);
glViewport(0, 0, (int) self.frame.size.width, (int) self.frame.size.height);
[ochrContext setActiveShaderProgram:layerRenderingShaderProgram];

// Do the actual drawing
glActiveTexture(GL_TEXTURE4);
glBindTexture(GL_TEXTURE_2D, self.inputTexture);
glUniform1i(layerRenderingInputTextureUniform, 4);
glVertexAttribPointer(layerRenderingShaderPositionAttribute, 2, GL_FLOAT, 0, 0, kRenderTargetVertices);
glVertexAttribPointer(layerRenderingShaderTextureCoordinateAttribute, 2, GL_FLOAT, 0, 0, kRenderTextureVertices);

// Draw and finish up
glDrawArrays(GL_TRIANGLE_STRIP, 0, 4);
glFinish();

// Try running this code asynchronously to improve performance
dispatch_async(PixelBufferReadingQueue, ^{
    
    // Lock the base address (can't get the address without locking it).
    CVPixelBufferLockBaseAddress(renderTarget, 0);
    
    // Get a pointer to the pixels
    uint32_t * pixels = (uint32_t*) CVPixelBufferGetBaseAddress(renderTarget);
    
    // Wrap the pixel data in a data-provider object.
    CGDataProviderRef pixelWrapper = CGDataProviderCreateWithData(NULL, pixels, CVPixelBufferGetDataSize(renderTarget), NULL);
    
    // Get a color-space ref... can't this be done only once?
    CGColorSpaceRef colorSpaceRef = CGColorSpaceCreateDeviceRGB();
    
    // Release the exusting CGImage
    CGImageRelease(currentCGImage);
    
    // Get a CGImage from the data (the CGImage is used in the drawLayer: delegate method above)
    currentCGImage = CGImageCreate(self.frame.size.width,
                                   self.frame.size.height,
                                   8,
                                   32,
                                   4 * self.frame.size.width,
                                   colorSpaceRef,
                                   kCGBitmapByteOrder32Big | kCGImageAlphaPremultipliedLast,
                                   pixelWrapper,
                                   NULL,
                                   NO,
                                   kCGRenderingIntentDefault);
    
    // Clean up
    CVPixelBufferUnlockBaseAddress(renderTarget, 0);
    CGDataProviderRelease(pixelWrapper);
    CGColorSpaceRelease(colorSpaceRef);
    
    });
}

然后非常简单地实现委托方法：

- (void) drawLayer:(CALayer *)layer inContext:(CGContextRef)ctx {
CGContextDrawImage(ctx, self.bounds, currentCGImage);
}