一、前言

用ffmpeg來做音視頻同步，個人認為這個是ffmpeg基礎處理中最難的一個，無數(shù)人就卡在這里，怎么也不準，本人也是嘗試過網(wǎng)上各種demo，基本上都是渣渣，要么僅僅支持極其少量的視頻文件比如收到的數(shù)據(jù)包是一幀視頻一幀音頻的，要么根本沒法同步歪七八糟的，要么進度跳過去直接蹦蹦蹦崩潰的，其實最完美的音視頻同步處理demo就是ffplay，我親測過幾十種各種各樣的音視頻本地文件，數(shù)十種視頻流文件，都是非常完美，當然啦這是親生的啦，不完美還玩?zhèn)€屁。

如果僅僅是播放視頻流（不帶音頻流），可能不需要音視頻同步，所以最開始只做rtsp視頻流播放的時候根本沒有考慮同步的問題，因為沒遇到也不需要，等到后期發(fā)現(xiàn)各種rtmp、http、m3u8這種視頻流的時候，問題大了去了，他是hls格式的視頻流文件一次性過來的，一個個小視頻文件過來的，如果沒有同步的話，意味著突然之間刷刷刷的圖片過去很多，下一次來的又是刷刷的，這就需要自己計算同步了，上次接收到的數(shù)據(jù)包放入隊列，到了需要顯示的時候就顯示。

常用的音視頻同步方法：

通過fps來控制，fps表示一秒鐘播放多少幀，比如25幀，可以自行計算一幀解碼用掉的時間，一幀占用（1000/25=40毫秒），通過延時來處理，這其實是最渣渣的辦法。 記住開始解碼的時間startTime，通過av_rescale_q計算pts時間，兩者的差值就是需要延時的時間，調用av_usleep來延時，這種只有部分文件正常，很多時候不正常。 音頻同步到視頻，視頻時鐘作為主時鐘，沒試過，網(wǎng)上很多人說這個辦法不好。 視頻同步到音頻，音頻時鐘作為主時鐘，沒試過，據(jù)說大部分人采用的此辦法。 音視頻同步到外部時鐘，外部時鐘作為主時鐘，最終采用的辦法，容易理解互不干擾，各自按照外部時鐘去同步自己。 ffplay自身內置了三種同步策略，可以通過參數(shù)來控制采用何種策略，默認是視頻同步到音頻。

二、效果圖

三、體驗地址

國內站點：https://gitee.com/feiyangqingyun

國際站點：https://github.com/feiyangqingyun

體驗地址：https://pan.baidu.com/s/1YOVD8nkoOSYwX9KgSauLeQ 提取碼：kcgz 文件名：bin_video_demo/bin_linux_video。

四、相關代碼

#include "ffmpegsync.h"
#include "ffmpeghelper.h"
#include "ffmpegthread.h"

FFmpegSync::FFmpegSync(quint8 type, QObject *parent) : QThread(parent)
{
    this->stopped = false;
    this->type = type;
    this->thread = (FFmpegThread *)parent;
}

FFmpegSync::~FFmpegSync()
{

}

void FFmpegSync::run()
{
    if (!thread) {
        return;
    }

    this->reset();
    while (!stopped) {
        //暫停狀態(tài)或者切換進度中或者隊列中沒有幀則不處理
        if (!thread->isPause && !thread->changePosition && packets.size() > 0) {
            mutex.lock();
            AVPacket *packet = packets.first();
            mutex.unlock();

            //h264的裸流文件同步有問題因為獲取不到pts和dts(暫時用最蠢的延時辦法解決)
            if (thread->formatName == "h264") {
                int sleepTime = (1000 / thread->frameRate) - 5;
                msleep(sleepTime);
            }

            //計算當前幀顯示時間(外部時鐘同步)
            ptsTime = FFmpegHelper::getPtsTime(thread->formatCtx, packet);
            if (!this->checkPtsTime()) {
                msleep(1);
                continue;
            }

            //顯示當前的播放進度
            this->checkShowTime();

            //如果解碼線程停止了則不用處理
            if (!thread->stopped) {
                //0-表示音頻 1-表示視頻
                if (type == 0) {
                    thread->decodeAudio1(packet);
                } else if (type == 1) {
                    thread->decodeVideo1(packet);
                }
            }

            //釋放資源并移除
            mutex.lock();
            FFmpegHelper::freePacket(packet);
            packets.removeFirst();
            mutex.unlock();
        }

        msleep(1);
    }

    this->reset();
    this->clear();
    stopped = false;
}

void FFmpegSync::stop()
{
    if (this->isRunning()) {
        stopped = true;
        this->wait();
    }
}

void FFmpegSync::clear()
{
    mutex.lock();
    //釋放還沒有來得及處理的剩余的幀
    foreach (AVPacket *packet, packets) {
        FFmpegHelper::freePacket(packet);
    }
    packets.clear();
    mutex.unlock();
}

void FFmpegSync::reset()
{
    //復位音頻外部時鐘
    showTime = 0;
    bufferTime = 0;
    offsetTime = -1;
    startTime = av_gettime();
}

void FFmpegSync::append(AVPacket *packet)
{
    mutex.lock();
    packets << packet;
    mutex.unlock();
}

int FFmpegSync::getPacketCount()
{
    return this->packets.size();
}

bool FFmpegSync::checkPtsTime()
{
    //下面這幾個時間值是參考的別人的
    bool ok = false;
    if (ptsTime > 0) {
        if (ptsTime > offsetTime + 100000) {
            bufferTime = ptsTime - offsetTime + 100000;
        }

        int offset = (type == 0 ? 1000 : 5000);
        //做夢都想不到倍速播放就這里控制個系數(shù)就行
        offsetTime = (av_gettime() - startTime) * thread->speed + bufferTime;
        if ((offsetTime <= ptsTime && ptsTime - offsetTime <= offset) || (offsetTime > ptsTime)) {
            ok = true;
        }
    } else {
        ok = true;
    }

    return ok;
}

void FFmpegSync::checkShowTime()
{
    //必須是文件(本地文件或網(wǎng)絡文件)才有播放進度
    if (!thread->getIsFile()) {
        return;
    }

    //過濾重復發(fā)送播放時間
    bool showPosition = false;
    bool existVideo = (thread->videoIndex >= 0);
    if (type == 0) {
        //音頻同步線程不能存在視頻
        if (!existVideo) {
            showPosition = true;
        }
    } else if (type == 1) {
        //視頻同步線程必須存在視頻
        if (existVideo) {
            showPosition = true;
        }
    }

    //需要顯示時間的時候發(fā)送對應進度(限定差值大于200毫秒沒必要頻繁發(fā)送)
    if (showPosition && (offsetTime - showTime > 200000)) {
        showTime = offsetTime;
        thread->position = showTime / 1000;
        emit receivePosition(thread->position);
    }
}

五、功能特點

5.1 基礎功能

• 支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
• 支持本地攝像頭設備，可指定分辨率、幀率。
• 支持各種視頻流格式，比如rtp、rtsp、rtmp、http等。
• 本地音視頻文件和網(wǎng)絡音視頻文件，自動識別文件長度、播放進度、音量大小、靜音狀態(tài)等。
• 文件可以指定播放位置、調節(jié)音量大小、設置靜音狀態(tài)等。
• 支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當于慢放和快放。
• 支持開始播放、停止播放、暫停播放、繼續(xù)播放。
• 支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動顯示預覽。
• 支持錄像存儲，手動開始錄像、停止錄像，部分內核支持暫停錄像后繼續(xù)錄像，跳過不需要錄像的部分。
• 支持無感知切換循環(huán)播放、自動重連等機制。
• 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號。
• 多線程處理，一個解碼一個線程，不卡主界面。

5.2 特色功能

• 同時支持多種解碼內核，包括qmedia內核（Qt4/Qt5/Qt6）、ffmpeg內核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5）、vlc內核（vlc2/vlc3）、mpv內核（mpv1/mp2）、?？祍dk、easyplayer內核等。
• 非常完善的多重基類設計，新增一種解碼內核只需要實現(xiàn)極少的代碼量，就可以應用整套機制。
• 同時支持多種畫面顯示策略，自動調整（原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示，否則等比例縮放）、等比例縮放（永遠等比例縮放）、拉伸填充（永遠拉伸填充）。所有內核和所有視頻顯示模式下都支持三種畫面顯示策略。
• 同時支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對方繪制控制）、繪制模式（回調拿到數(shù)據(jù)后轉成QImage用QPainter繪制）、GPU模式（回調拿到數(shù)據(jù)后轉成yuv用QOpenglWidget繪制）。
• 支持多種硬件加速類型，ffmpeg可選dxva2、d3d11va等，mpv可選auto、dxva2、d3d11va，vlc可選any、dxva2、d3d11va。不同的系統(tǒng)環(huán)境有不同的類型選擇，比如linux系統(tǒng)有vaapi、vdpau，macos系統(tǒng)有videotoolbox。
• 解碼線程和顯示窗體分離，可指定任意解碼內核掛載到任意顯示窗體，動態(tài)切換。
• 支持共享解碼線程，默認開啟并且自動處理，當識別到相同的視頻地址，共享一個解碼線程，在網(wǎng)絡視頻環(huán)境中可以大大節(jié)約網(wǎng)絡流量以及對方設備的推流壓力。國內頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
• 自動識別視頻旋轉角度并繪制，比如手機上拍攝的視頻一般是旋轉了90度的，播放的時候要自動旋轉處理，不然默認是倒著的。
• 自動識別視頻流播放過程中分辨率的變化，在視頻控件上自動調整尺寸。比如攝像機可以在使用過程中動態(tài)配置分辨率，當分辨率改動后對應視頻控件也要做出同步反應。
• 音視頻文件無感知自動切換循環(huán)播放，不會出現(xiàn)切換期間黑屏等肉眼可見的切換痕跡。
• 視頻控件同時支持任意解碼內核、任意畫面顯示策略、任意視頻顯示模式。
• 視頻控件懸浮條同時支持句柄、繪制、GPU三種模式，非絕對坐標移來移去。
• 本地攝像頭設備支持指定設備名稱、分辨率、幀率進行播放。
• 錄像文件同時支持打開的視頻文件、本地攝像頭、網(wǎng)絡視頻流等。
• 瞬間響應打開和關閉，無論是打開不存在的視頻或者網(wǎng)絡流，探測設備是否存在，讀取中的超時等待，收到關閉指令立即中斷之前的操作并響應。
• 支持打開各種圖片文件，支持本地音視頻文件拖曳播放。
• 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關閉視頻等功能。
• 音頻組件支持聲音波形值數(shù)據(jù)解析，可以根據(jù)該值繪制波形曲線和柱狀聲音條，默認提供了聲音振幅信號。
• 各組件中極其詳細的打印信息提示，尤其是報錯信息提示，封裝的統(tǒng)一打印格式。針對現(xiàn)場復雜的設備環(huán)境測試極其方便有用，相當于精確定位到具體哪個通道哪個步驟出錯。
• 代碼框架和結構優(yōu)化到最優(yōu)，性能強悍，持續(xù)迭代更新升級。
• 源碼支持Qt4、Qt5、Qt6，兼容所有版本。

5.3 視頻控件

• 可動態(tài)添加任意多個osd標簽信息，標簽信息包括名字、是否可見、字號大小、文本文字、文本顏色、標簽圖片、標簽坐標、標簽格式（文本、日期、時間、日期時間、圖片）、標簽位置（左上角、左下角、右上角、右下角、居中、自定義坐標）。
• 可動態(tài)添加任意多個圖形信息，這個非常有用，比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀，直接繪制在原始圖片上，采用絕對坐標。
• 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點坐標集合等。
• 每個圖形信息都可指定三種區(qū)域中的一種或者多種，指定了的都會繪制。
• 內置懸浮條控件，懸浮條位置支持頂部、底部、左側、右側。
• 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標代碼集合、按鈕名稱標識集合、按鈕提示信息集合。
• 懸浮條控件一排工具按鈕可自定義，通過結構體參數(shù)設置，圖標可選圖形字體還是自定義圖片。
• 懸浮條按鈕內部實現(xiàn)了錄像切換、抓拍截圖、靜音切換、關閉視頻等功能，也可以自行在源碼中增加自己對應的功能。
• 懸浮條按鈕對應實現(xiàn)了功能的按鈕，有對應圖標切換處理，比如錄像按鈕按下后會切換到正在錄像中的圖標，聲音按鈕切換后變成靜音圖標，再次切換還原。
• 懸浮條按鈕單擊后都用名稱唯一標識作為信號發(fā)出，可以自行關聯(lián)響應處理。
• 懸浮條空白區(qū)域可以顯示提示信息，默認顯示當前視頻分辨率大小，可以增加幀率、碼流大小等信息。
• 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點顏色、背景顏色（默認透明）、文字顏色（默認全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設置了圖片優(yōu)先取圖片）、是否拷貝圖片、縮放顯示模式（自動調整、等比例縮放、拉伸填充）、視頻顯示模式（句柄、繪制、GPU）、啟用懸浮條、懸浮條尺寸（橫向為高度、縱向為寬度）、懸浮條位置（頂部、底部、左側、右側）。

5.4 內核ffmpeg

• 支持各種音視頻文件、本地攝像頭設備，各種視頻流網(wǎng)絡流。
• 支持開始播放、暫停播放、繼續(xù)播放、停止播放、設置播放進度、倍速播放。
• 可設置音量、靜音切換、抓拍圖片、錄像存儲。
• 自動提取專輯信息比如標題、藝術家、專輯、專輯封面，自動顯示專輯封面。
• 完美支持音視頻同步和倍速播放。
• 解碼策略支持速度優(yōu)先、質量優(yōu)先、均衡處理、最快速度。
• 支持手機視頻旋轉角度顯示，比如一般手機拍攝的視頻是旋轉了90度的，解碼顯示的時候需要重新旋轉90度才是正的。
• 自動轉換yuv420格式，比如本地攝像頭是yuyv422格式，有些視頻文件是xx格式，統(tǒng)一將非yuv420格式轉換，然后再進行處理。
• 支持硬解碼dxva2、d3d11va等，性能極高尤其是大分辨率比如4K視頻。
• 視頻響應極低延遲0.2s左右，極速響應打開視頻流0.5s左右，專門做了優(yōu)化處理。
• 硬解碼和GPU繪制組合，極低CPU占用，比海康大華等客戶端更優(yōu)。
• 支持視頻流中的各種音頻格式，AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持，推薦選擇AAC兼容性跨平臺性最好。
• 視頻存儲支持yuv、h264、mp4多種格式，音頻存儲支持pcm、wav、aac多種格式。默認視頻mp4格式、音頻aac格式。
• 支持分開存儲音頻視頻文件，也支持合并到一個mp4文件，默認策略是無論何種音視頻文件格式存儲，最終都轉成mp4及aac格式，然后合并成音視頻一起的mp4文件。
• 支持本地攝像頭實時視頻顯示帶音頻輸入輸出，音視頻錄制合并到一個mp4文件。
• 支持H264/H265編碼（現(xiàn)在越來越多的監(jiān)控攝像頭是H265視頻流格式）生成視頻文件，內部自動識別切換編碼格式。
• 自動識別視頻流動態(tài)分辨率改動，重新打開視頻流。
• 支持用戶信息中包含特殊字符（比如用戶信息中包含+#@等字符）的視頻流播放，內置解析轉義處理。
• 純qt+ffmpeg解碼，非sdl等第三方繪制播放依賴，gpu繪制采用qopenglwidget，音頻播放采用qaudiooutput。
• 同時支持ffmpeg2、ffmpeg3、ffmpeg4、ffmpeg5版本，全部做了兼容處理。如果需要支持xp需要選用ffmpeg3及以下。

到此這篇關于Qt利用ffmpeg實現(xiàn)音視頻同步的文章就介紹到這了,更多相關Qt ffmpeg音視頻同步內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！