Question

提供一点上下文。我正在尝试从我的c＃应用程序中的相机输出实时音频。在做了一些研究之后，在c ++托管的dll中做这件事似乎很明显。我选择了XAudio2 api，因为它应该很容易实现并与动态音频内容一起使用。

因此，我们的想法是使用空缓冲区在c ++中创建XAudio设备，并从c＃代码端推入音频。音频块每50ms推送一次，因为我希望尽可能减少延迟。

// SampleRate = 44100; Channels = 2; BitPerSample = 16;
var blockAlign = (Channels * BitsPerSample) / 8;
var avgBytesPerSecond = SampleRate * blockAlign;
var avgBytesPerMillisecond = avgBytesPerSecond / 1000;
var bufferSize = avgBytesPerMillisecond * Time;
_sampleBuffer = new byte[bufferSize];

每次定时器运行时，它都会获取音频缓冲区的指针，从音频中读取数据，将数据复制到指针并调用PushAudio方法。我还使用秒表来检查处理所花费的时间，并再次计算定时器的间隔以包括处理时间。

private void PushAudioChunk(object sender, ElapsedEventArgs e)
{
    unsafe
    {
        _pushAudioStopWatch.Reset();
        _pushAudioStopWatch.Start();

        var audioBufferPtr = Output.AudioCapturerBuffer();
        FillBuffer(_sampleBuffer);
        Marshal.Copy(_sampleBuffer, 0, (IntPtr)audioBufferPtr, _sampleBuffer.Length);

        Output.PushAudio();

        _pushTimer.Interval = Time - _pushAudioStopWatch.ElapsedMilliseconds;
        _pushAudioStopWatch.Stop();
        DIX.Log.WriteLine("Push audio took: {0}ms", _pushAudioStopWatch.ElapsedMilliseconds);                
    }
}

这是c ++部分的实现。

关于msdn的文档，我创建了一个XAudio2设备并添加了MasterVoice和SourceVoice。缓冲区最初是空的，因为c＃部分负责推送音频数据。

namespace Audio
{
    using namespace System;

    template <class T> void SafeRelease(T **ppT)
    {
        if (*ppT)
        {
            (*ppT)->Release();
            *ppT = NULL;
        }
    }

    WAVEFORMATEXTENSIBLE wFormat;

    XAUDIO2_BUFFER buffer = { 0 };

    IXAudio2* pXAudio2 = NULL;
    IXAudio2MasteringVoice* pMasterVoice = NULL;
    IXAudio2SourceVoice* pSourceVoice = NULL;           

    WaveOut::WaveOut(int bufferSize)
    {
        audioBuffer = new Byte[bufferSize];

        wFormat.Format.wFormatTag = WAVE_FORMAT_PCM;
        wFormat.Format.nChannels = 2;
        wFormat.Format.nSamplesPerSec = 44100;
        wFormat.Format.wBitsPerSample = 16;
        wFormat.Format.nBlockAlign = (wFormat.Format.nChannels * wFormat.Format.wBitsPerSample) / 8;
        wFormat.Format.nAvgBytesPerSec = wFormat.Format.nSamplesPerSec * wFormat.Format.nBlockAlign;
        wFormat.Format.cbSize = 0;
        wFormat.SubFormat = KSDATAFORMAT_SUBTYPE_PCM;

        HRESULT hr = XAudio2Create(&pXAudio2, 0, XAUDIO2_DEFAULT_PROCESSOR);

        if (SUCCEEDED(hr))
        {
            hr = pXAudio2->CreateMasteringVoice(&pMasterVoice);
        }

        if (SUCCEEDED(hr))
        {
            hr = pXAudio2->CreateSourceVoice(&pSourceVoice, (WAVEFORMATEX*)&wFormat,
                0, XAUDIO2_DEFAULT_FREQ_RATIO, NULL, NULL, NULL);
        }

        buffer.pAudioData = (BYTE*)audioBuffer;
        buffer.AudioBytes = bufferSize;
        buffer.Flags = 0;

        if (SUCCEEDED(hr))
        {
            hr = pSourceVoice->Start(0);
        }
    }

    WaveOut::~WaveOut()
    {

    }

    WaveOut^ WaveOut::CreateWaveOut(int bufferSize)
    {
        return gcnew WaveOut(bufferSize);
    }

    uint8_t* WaveOut::AudioCapturerBuffer()
    {
        if (!audioBuffer)
        {
            throw gcnew Exception("Audio buffer is not initialized. Did you forget to set up the audio container?");
        }

        return (BYTE*)audioBuffer;
    }

    int WaveOut::PushAudio()
    {
        HRESULT hr = pSourceVoice->SubmitSourceBuffer(&buffer);

        if (FAILED(hr))
        {
            return -1;
        }

        return 0;
    }
}

我面临的问题是我总是在输出中有一些破解。我试图增加定时器的间隔或增加缓冲区大小。每次都有相同的结果。

我做错了什么？

更新

我创建了XAudio引擎可以通过的3个缓冲区。裂缝消失了。现在缺少的部分是在c＃部分的正确时间填充缓冲区，以避免具有相同数据的缓冲区。

void Render(void* param)
{
    std::vector<byte> audioBuffers[BUFFER_COUNT];
    size_t currentBuffer = 0;

    // Get the current state of the source voice
    while (BackgroundThreadRunning && pSourceVoice)
    {
        if (pSourceVoice)
        {
            pSourceVoice->GetState(&state);
        }

        while (state.BuffersQueued < BUFFER_COUNT)
        {
            std::vector<byte> resultData;
            resultData.resize(DATA_SIZE);
            CopyMemory(&resultData[0], pAudioBuffer, DATA_SIZE);

            // Retreive the next buffer to stream from MF Music Streamer
            audioBuffers[currentBuffer] = resultData;

            // Submit the new buffer
            XAUDIO2_BUFFER buf = { 0 };
            buf.AudioBytes = static_cast<UINT32>(audioBuffers[currentBuffer].size());
            buf.pAudioData = &audioBuffers[currentBuffer][0];

            pSourceVoice->SubmitSourceBuffer(&buf);

            // Advance the buffer index
            currentBuffer = ++currentBuffer % BUFFER_COUNT;

            // Get the updated state
            pSourceVoice->GetState(&state);
        }

        Sleep(30);
    }
}

Answer 1

XAudio2在您通过SubmitSourceBuffer提交时，不复制源数据缓冲区。您必须保持该数据（在您的应用程序内存中）有效，并在XAudio2需要读取的整个时间内分配缓冲区来处理数据。这样做是为了提高效率，以避免需要额外的副本，但是让多线程负担保持内存可用，直到它完成播放为止。这也意味着你无法修改播放缓冲区。

您当前的代码只是重复使用相同的缓冲区，当您在播放数据时更改数据会导致弹出。您可以通过在两个或三个缓冲之间旋转来解决此问题。 XAudio2源语音具有可用于确定何时播放缓冲区的状态信息，或者您可以注册显式回调，告知您何时不再使用缓冲区。

有关使用XAudio2的示例，请参阅DirectX Tool Kit for Audio和classic XAudio2 samples。

XAudio2 - 使用动态缓冲区时的破解输出

1 个答案: