IDA内核调试错误

Question

环境：

  

Windows 7 64位版本

     

虚拟机（Vmware 8）+ Virtualkd：Windows XP 32位版本

尝试使用ida 6.1调试kernl，我收到此错误：

Windbg: using debugging tools from 'C:\Program Files (x86)\Debugging Tools for Windows (x86)\'
Connecting to the kernel with 'com:port=\\.\pipe\kd_WinXP_kerneldbg'
**Connect failed: Incorrect function.**
Flushing buffers, please wait...ok
Unloading IDP module C:\ida61\procs\pc.w32...

vmmon64看起来不错：

http://s13.postimg.org/qpn50bcdz/Untitled.png

IDA上的连接字符串：

com:port=\\.\pipe\kd_WinXP_kerneldbg

任何人都

Answer 1

当您拥有物理串行端口连接时，您使用的连接字符串。对于虚拟机，您需要使用稍微不同的字符串。尝试：

com:pipe,port=\\.\pipe\kd_WinXP_kerneldbg

请注意虚拟机COM连接所需的额外pipe,port部分。以下是可能的连接字符串，从Live Kernel-Mode Debugging Using WinDbg

引用

windbg [-y SymbolPath] -k net:port=PortNumber,key=Key
windbg [-y SymbolPath] -k 1394:channel=1394Channel[,symlink=1394Protocol] 
windbg [-y SymbolPath] -k usb:targetname=USBString
windbg [-y SymbolPath] -k com:port=ComPort,baud=BaudRate
windbg [-y SymbolPath] -k com:pipe,port=\\VMHost\pipe\PipeName[,resets=0][,reconnect]
windbg [-y SymbolPath] -k com:modem
windbg [-y SymbolPath] -kl 
windbg [-y SymbolPath] -k 

如果VM与调试器在同一台计算机上运行，​​则使用\\.\而不是\\VMHost\

Setting Up Kernel-Mode Debugging of a Virtual Machine Manually一般也可能有所帮助。