我有一个基本的audiorecord-audiotrack,两个android设备之间的udp数据包语音聊天。它有效,但我有一个不好的回声。我正在尝试使用JNI移植到Android的Speex删除回声。我导入的speex工作,但回声消除没有。原生C代码是:
#include <jni.h>
#include <speex/speex_echo.h>
#define FRAME_SIZE 256
#define FILTER_LENGTH 800
SpeexEchoState *echoState;
// Initialization of echo cancelation
void Java_telefonie_voip_VoIPActivity_InitEcho(JNIEnv * env, jobject jobj)
{
echoState = speex_echo_state_init(FRAME_SIZE, FILTER_LENGTH);
}
// Queue the frame to soundcard for playing (receiving)
void Java_telefonie_voip_VoIPActivity_Playback(JNIEnv * env, jobject jobj, jshortArray inputFrame)
{
speex_echo_playback(echoState, inputFrame);
}
jshortArray Java_telefonie_voip_VoIPActivity_Capture(JNIEnv * env, jobject jobj, jshortArray inputFrame)
{
jshortArray outputFrame;
speex_echo_capture(echoState, inputFrame, *&outputFrame);
return outputFrame;
}
// Destroing echo cancelation
void Java_telefonie_voip_VoIPActivity_DestroyEcho(JNIEnv * env, jobject jobj)
{
speex_echo_state_destroy(echoState);
}
一些重要的java代码:
native void InitEcho();
native void DestroyEcho();
native void Playback(short[] inputData); // listener/receiving
native short[] Capture(short[] inputData); // recorder/sender
static {
System.loadLibrary("speex");
}
public void Initialize ()
{
minBufferSize = 4096;
try
{
InitEcho();
}
catch (Exception e){Log.e(TAG, "jni " + e.getMessage());}
}
public void startRecording ()
{
isStreaming = true;
streamingThread = new Thread(new Runnable(){
@Override
public void run ()
{
try
{
audioRecorder = new AudioRecord(
MediaRecorder.AudioSource.MIC,
sampleRate,
channelConfig,
audioFormat,
minBufferSize*10
);
buffer = new short[minBufferSize];
audioRecorder.startRecording();
while(isStreaming)
{
sendPackets++;
minBufferSize = audioRecorder.read(buffer, 0, buffer.length);
// Echo cancelling
buffer = Capture(buffer);
// Send
dataPacket = new DatagramPacket(ShortToByteArray(buffer), buffer.length*2, receiverAddressIA, serverPort1);
dataSocket.send(dataPacket);
}
}
catch(Exception e)
{
Log.e(TAG, "2" + e.getMessage());
}
}
});
streamingThread.start();
}
public void startListen ()
{
isListening = true;
receivingThread = new Thread(new Runnable(){
@Override
public void run ()
{
try
{
audioTrack = new AudioTrack(
AudioManager.STREAM_VOICE_CALL,
sampleRate,
channelConfig,
audioFormat,
minBufferSize*10,
AudioTrack.MODE_STREAM
);
audioTrack.play();
buffer2 = new short[minBufferSize];
while (isListening)
{
receivedPackets++;
dataPacket2 = new DatagramPacket(ShortToByteArray(buffer2), buffer2.length*2);
dataSocket2.receive(dataPacket2);
// Cancel echo
Playback(buffer2);
// Queue to soundcard
audioTrack.write(buffer2, 0, minBufferSize);
}
}
catch(Exception e)
{
Log.e(TAG, "3" + e.getMessage());
}
}
});
receivingThread.start();
}
public short[] ByteToShortArray(byte[] byteArray)
{
short[] shortArray = new short[byteArray.length/2];
ByteBuffer.wrap(byteArray).order(ByteOrder.BIG_ENDIAN).asShortBuffer().get(shortArray);
return shortArray;
}
问题在于,当我启动录制器/流式传输线程时,它会向我显示它发送一个包然后应用程序崩溃而没有消息。你有任何sugestions或建议吗?请帮助我,因为我需要尽快完成这个项目,我努力工作并记录了自己,但仍然不能很好地工作。谢谢!
编辑:我刚发现
// Echo cancelling
buffer = Capture(buffer);
正在触发崩溃。
答案 0 :(得分:1)
更新:关于崩溃 - 这是由于误用JNI。 您不能将jshortarray视为C指针。您需要调用相关的JNI函数将其转换为C指针(GetShortArrayElements等)。
关于回声消除器 - 您当前使用的内部缓冲区大约为2帧,这对您来说可能不够。 Android的上下文切换与PC不同,您可能会连续4个回放帧 - &gt; 4个连续记录的帧 - &gt;等等。所以你会失去那样的框架。
此外,Android音频流的延迟比PC高,因此2帧缓冲是不够的。您需要实现自己的缓冲并使用延迟的帧数进行播放,因此回声消除器会在回放过滤器长度边界内看到回声。
除此之外,分析和调试回声消除器的最佳方法是: 1.实际上了解它是如何在高层次上工作的,有什么要求 - 不是火箭科学,你可以在官方Speex文档中找到所有内容。 2.使用提供的echo_diagnostic工具,检查Audacity等工具中的流,看看它出错的地方。
Speex AEC在正确使用时运行良好,我已经使用它完成了3个不同的项目,所以只需要纠正你的实现。