在 iPhone X 上的 ARKit ARSession 期间从前置摄像头录制视频

Question

我正在使用ARSession 与ARFaceTrackingConfiguration 结合使用来跟踪我的脸。同时，我想从 iPhone X 的前置摄像头录制视频。为此，我使用的是AVCaptureSession，但当我开始录制时，ARSession 会被中断。

这是两个sn-ps代码：

// Face tracking
let configuration = ARFaceTrackingConfiguration()
    configuration.isLightEstimationEnabled = false
let session = ARSession()
session.run(configuration, options: [.removeExistingAnchors, .resetTracking])

// Video recording
let camera = AVCaptureDevice.default(.builtInWideAngleCamera, for: .video, position: .front)!
input = try! AVCaptureDeviceInput(device: camera)
session.addInput(input)
session.addOutput(output)

有人知道如何同时做这两件事吗？像 Snapchat 这样的应用程序允许用户同时记录和使用 True Depth 传感器，所以我想我的要求是完全可行的。谢谢！

Answer 1

ARKit 运行自己的AVCaptureSession，一次只能运行一个捕获会话 - 如果您运行一个捕获会话，则您抢占了 ARKit，这会阻止 ARKit 工作。

但是，ARKit 确实提供了对其从捕获会话中接收到的相机像素缓冲区的访问权限，因此您可以通过将这些样本缓冲区提供给 AVAssetWriter 来录制视频。 （这与您从AVCaptureVideoDataOutput 录制视频时使用的工作流程基本相同......与AVCaptureMovieFileOutput 相比，这是一种较低级别的视频录制方式。）

您还可以将 ARKit 摄像头像素缓冲区（请参阅 ARFrame.capturedImage）提供给其他处理实时摄像头图像的技术，例如 Vision 框架。 Apple 有一个 sample code project 来展示这种用法。