使用 Broadway.js 解码原始 h.264

Question

我正在开发一个使用 ffmpeg 为我提供编码 h.264 帧的应用程序：

avcodec_encode_video2(c, &packet, frame, &got_output)

如果我将所有packet.data 保存到文件out.h264，它会使用ffplay 显示所需的输出。

现在，我的目标是在收到每个数据包时发送它并在网页上显示（实时流）。为此，我使用Broadway.js

我可以确认我从应用程序发送的数据在浏览器中被正确接收。但是，我无法在使用 Broadway 的 webGL 画布上显示相同的内容（Player.js、Decoder.js、YUVCanvas.js）：

if (data != null) player.decode(new Uint8Array(data));

我得到的输出是一个空白的白色画布。 data 是一个 ArrayBuffer，它包含来自 avcodec_encode_video2 的数据包中的 h.264 比特流。难道我做错了什么？数据是否应该采用特定格式？

旁注：
我的视频文件out.h264 使用此处提供的示例正常播放：BroadwayStream

它似乎使用命令行 ffmpeg 界面并处理收到的每个数据包。我的程序使用 ffmpeg 库来获取相同的数据包，我需要渲染这些数据包。有人可以帮忙吗？

Answer 1

请记住，Broadway 仅处理使用 CAVLC（霍夫曼编码）编码的基线配置文件，而忽略主配置文件或使用 CABAC（算术编码）编码的任何内容。换句话说，百老汇只接受最容易解码的 H.264 流类型。当您的视频编码不正确时，您可能会感到沮丧，因为您会患上可怕的黑屏综合症。

BroadwayStream 在服务器端使用 ffmpeg 对 mp4 文件进行解箱，将它们转换为原始 H.264 数据流。也就是说，它会生成一系列 H.264 网络访问层单元 (NALU)。

然后浏览器端 slurp 整个数据流并将其传递给 Broadway 的 decode() 方法。所以，decode() 总是得到一个完整的 NALU 序列，在任何特定的方法调用中都没有传递部分 NALU。

decode() 不采用部分 NALU。 （BroadwayStream 通过给它整个流巧妙地回避了这一点。）它不采用 mp4 或 webm 数据流，只采用脱箱的 H.264。如果你将部分 NALU 传递给它，它就不起作用——它只会忽略你给它的数据。因此，接受数据流的客户端 js 必须以某种方式将流分离为 NALU，然后再将它们传递给decode()。

如果您的 js 接受 MIME 类型 video/webm; codecs="avc1.42E01E" 的混合文件，您可以查看 https://github.com/themasch/node-ebml 和 this gist 以了解将它们拆箱的方法。每个data 块包含一个或多个完整的NALU，您可以将其传递给decode()。

如果是video/mp4; codecs="avc1.42E01E" 碎片MP4，您可以将avcC 框中的sps 和pps 项拆箱，然后将mdat 框拆箱。这些项目中的每一项都是一个或多个完整的 NALU。

如果您从服务器获取原始 H.264 流，您必须以某种方式自己将其解析为 NALU。 Yumi Chan wrote a helpful article about NALUs. 请记住，有两种分离 NALU 的方法：数据包传输和字节流。 decode() 可以接受，但您的解析器也必须接受。