【AVD】FFmpeg avcodec_open2 返回 -1 (Operation not permitted) 的一种解决方案

本文已参与「新人创作礼」活动， 一起开启掘金创作之路。

最近在搞 Android 硬解码。在 软解码 和 硬解码 的兼容实现上，进行了各种尝试。后来，忽然发现，无法正常解码了，竟然出现 Failed to open codec。

avcodec_open2 是无论编码还是解码都必然要调用到的一个 API，在找到或者设置了合适的编码器或者解码器之后，需要调用该接口来打开编码器或者解码器。然而并非每次都能成功执行，有时候会遇到失败，但通常是找不到要求的编码器或者解码器，或者参数不对。

使用 ret = avcodec_open2(ctx, codec, nullptr) 查看到 返回值为 -1，获取到的错误信息是 "Operation not permitted"。这让我很头疼，对 Android 开发而言，权限这种东西，唉。 但是经过百度，发现，有网友称是因为 timebase.den 和 timebase.num 的设置不对。我忽然想到，最后一次尝试硬解的代码把 codec parameters 的拷贝忘掉了。因此，出现返回 -1 的错误的代码原文如下：

  AVStream* st = pFormatCtx->streams[streamIdx];
  codec_context_ = avcodec_alloc_context3(pCodec);
  if (!codec_context_) {
    AVLOGE("Failed to allocate the codec context.");
    return -1;
  }
  if (avcodec_parameters_to_context(codec_context_, st->codecpar) < 0) {
    AVLOGE("Failed to copy codec parameters to decoder context.");
    return -1;
  }
  if (enable_hw_decode_) {
    if (codec_context_->codec_id == AV_CODEC_ID_H264) {
      pCodec = avcodec_find_decoder_by_name("h264_mediacodec");
      if (pCodec) {
        avcodec_free_context(&codec_context_);
        codec_context_ = avcodec_alloc_context3(pCodec);
        using_hw_decode_ = true;
      }
    }
  }
  int ret = 0;
  if ((ret = avcodec_open2(codec_context_, pCodec, nullptr)) < 0) {
    AVLOGE("Failed to open codec. ret = %d, %s", ret, PAVUtils::get_error_string(ret));
    return -1;
  }

虽然有一次 avcodec_parameters_to_context api 的调用，但是，如果 enable_hw_decode_ 为 true 且找到了 h264_mediacodec 这个解码器的话，将会 free 掉原来的 codec_context_ 然后重新根据新的 h264_mediacodec 的解码器来申请 codec_context_，所以重新申请的 avcodec context 并未进行拷贝 parameters from stream to context 这个操作。而当我在 using_hw_decode_ = true 之前加上 avcodec_parameters_to_context(codec_context_, st->codecpar); 后，就能正常运行了。 很奇怪，为什么未拷贝相关参数，不是返回 INVALID_PAR 而是返回 NO_PERMIT 呢？

当然，后来这种情况就不存在了，会先判断是否开启硬解，如果硬解，则寻找硬解码器并尝试初始化它，如果初始化失败，还要退回到软解。同样的，退回到软解之后也要重新拷贝 codec 相关的参数。