CIImage 返回 CMSampleBuffer

Question

我使用AVAssetWriter 和CMSampleBuffer 数据（来自视频、音频输入）录制视频（.mp4 文件）。

在录制时我想处理帧，我将CMSampleBuffer 转换为CIImage 并进行处理。

但是如何使用来自CIImage 的新处理图像缓冲区更新CMSampleBuffer？

func captureOutput(_ output: AVCaptureOutput, didOutput sampleBuffer: CMSampleBuffer, from connection: AVCaptureConnection) {
    if output == videoOutput {
       let imageBuffer: CVPixelBuffer = CMSampleBufferGetImageBuffer(sampleBuffer)!
       let ciimage: CIImage = CIImage(cvPixelBuffer: imageBuffer)
       ... // my code to process CIImage (for example add augmented reality)
       // but how to convert it back to CMSampleBuffer?
       // because AVAssetWriterInput to encode video/audio in file needs CMSampleBuffer
       ...
    } 
    ...
}

Answer 1

您需要使用 CIContext 的 render(_:to:bounds:colorSpace:) 方法将您的 CIImage 渲染到 CVPixelBuffer 中。

然后您可以使用例如从 CVPixelBuffer 创建一个 CMSampleBuffer CMSampleBufferCreateReadyWithImageBuffer(_:_:_:_:_:)

出于效率原因，您可能需要使用 CVPixelBuffer 池，Apple 的 AVCamPhotoFilter 示例代码中显示了一个示例。特别是，请参阅RosyCIRenderer class。

另请参阅此答案，这可能会对您有所帮助Applying a CIFilter to a Video File and Saving it