AVPlayer HLS 直播电平表（显示 FFT 数据）

Question

我将AVPlayer 用于使用 HTTP 实时流媒体的广播应用程序。现在我想为那个音频流实现一个电平表。最好的电平表显示不同的频率，但一个简单的左/右解决方案将是一个很好的起点。

我发现了几个使用AVAudioPlayer 的示例。但我找不到从AVPlayer 获取所需信息的解决方案。

有人能想出解决我问题的办法吗？

编辑我想创建这样的东西（但更好）

编辑二

一个建议是使用MTAudioProcessingTap 来获取原始音频数据。我可以使用[[[_player currentItem] asset] tracks] 数组找到的示例，在我的例子中，它是一个空数组。另一个建议是使用[[_player currentItem] audioMix]，对我来说是null。

编辑 III

年之后，似乎仍然没有解决方案。我确实取得了进步，所以我正在分享它。

在设置过程中，我向 playerItem 添加了一个键值观察器：

[[[self player] currentItem] addObserver:self forKeyPath:@"tracks" options:kNilOptions context:NULL];

//////////////////////////////////////////////////////

- (void)observeValueForKeyPath:(NSString *)keyPath ofObject:(id)object change:(NSDictionary *)changecontext:(void *)context
    if ([keyPath isEqualToString:@"tracks"] && [[object tracks] count] > 0) {
        for (AVPlayerItemTrack *itemTrack in [object tracks]) {
            AVAssetTrack *track = [itemTrack assetTrack];

            if ([[track mediaType] isEqualToString:AVMediaTypeAudio]) {
                [self addAudioProcessingTap:track];
                break;
            }
        }
}

- (void)addAudioProcessingTap:(AVAssetTrack *)track {
    MTAudioProcessingTapRef tap;
    MTAudioProcessingTapCallbacks callbacks;
    callbacks.version = kMTAudioProcessingTapCallbacksVersion_0;
    callbacks.clientInfo = (__bridge void *)(self);
    callbacks.init = init;
    callbacks.prepare = prepare;
    callbacks.process = process;
    callbacks.unprepare = unprepare;
    callbacks.finalize = finalise;

    // more tap setup...

    AVMutableAudioMix *audioMix = [AVMutableAudioMix audioMix];

    AVMutableAudioMixInputParameters *inputParams = [AVMutableAudioMixInputParameters audioMixInputParametersWithTrack:audioTrack];
    [inputParams setAudioTapProcessor:tap];
    [audioMix setInputParameters:@[inputParams]];

    [[[self player] currentItem] setAudioMix:audioMix];
}

到目前为止一切顺利。这一切都有效，我可以找到正确的轨道并设置 inputParams 和 audioMix 等。 但不幸的是，唯一被调用的回调是 init 回调。其他任何一个都不会在任何时候开火。

我尝试了不同（种类）的流源，其中一个是官方 Apple HLS 流：http://devimages.apple.com/iphone/samples/bipbop/bipbopall.m3u8

Answer 1

遗憾的是，使用带有AVFoundation 的 HLS 流无法让您对音轨进行任何控制。我在尝试使 HLS 流静音时遇到了同样的问题，结果证明这是不可能的。

读取音频数据的唯一方法是点击AVAudioSession。

编辑

您可以像这样访问 AVAudioSession：

[AVAudioSession sharedInstance]

这是AVAudioSession的文档

Answer 2

使用AVPlayer 测量音频似乎是一个仍在进行的问题。话虽如此，我相信可以通过结合AVPlayer 和AVAudioRecorder 来实现解决方案。

虽然这两个类的目的看似矛盾，但有一种解决方法允许AVAudioRecorder 访问AVPlayer 的音频输出。

播放器/录音机

如Stack Overflow Answer 中所述，如果您使用kAudioSessionProperty_AudioRouteChange 访问音频路由更改，则可以录制 AVPlayer 的音频。

请注意，必须在访问音频路由更改后开始录音。使用链接堆栈答案作为参考 - 它包含更多详细信息和必要的代码。

~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ ~~~~~~~~~~~~~~~~~~~

一旦您可以访问AVPlayer 的音频路径并进行录音，测量就相对简单了。

音频电平

在我的answer 中关于测量麦克风输入的堆栈问题中，我描述了访问音频电平测量所需的步骤。使用AVAudioRecorder 监控音量变化比人们想象的要复杂，因此我添加了一个 GitHub project，它充当了在录制时监控音频变化的模板。

~~~~~~~~~~~~~~~~~~~~~~~~~~ 请注意 ~~~~~~~~~~~~ ~~~~~~~~~~~~~~~~~

HLS 直播期间的这种组合不是我测试过的。这个答案是严格理论上的，因此可能需要对这两个类有充分的理解才能完全解决。