Question

我使用的是非阻塞的socketChannel和SSLEngine的ssl服务器。因此，在成功握手之后，我读取了套接字（第一次读取184字节/ 384字节），然后我将此缓冲区传递给unwrap方法。 unwrap方法抛出以下异常：

javax.net.ssl.SSLHandshakeException: Invalid TLS padding data
    at sun.security.ssl.Alerts.getSSLException(Unknown Source)
    at sun.security.ssl.SSLEngineImpl.fatal(Unknown Source)
    at sun.security.ssl.SSLEngineImpl.readRecord(Unknown Source)
    at sun.security.ssl.SSLEngineImpl.readNetRecord(Unknown Source)
    at sun.security.ssl.SSLEngineImpl.unwrap(Unknown Source)
    at javax.net.ssl.SSLEngine.unwrap(Unknown Source)

但是如果我第一次读取所有字节（384/384），那么我就不会得到这个例外。

我认为如果sslengine没有足够的字节来解包它将返回bufferUnderflow状态。

我真的需要所有字节来调用unwrap方法吗？如果是，我怎么能确定我读取非阻塞套接字的所有字节？

编辑：代码：

public boolean doHandShake(SocketChannel socket) throws Exception{

        if(!socket.isConnected()){
            return false;
        }

        outAppData.clear();
        inAppData.clear();
        inNetData.clear();
        outNetData.clear();

        if(engine==null || socket==null)
         return false;


          engine.beginHandshake();
          SSLEngineResult.HandshakeStatus hs = engine.getHandshakeStatus();

          while (hs != SSLEngineResult.HandshakeStatus.FINISHED &&
                    hs != SSLEngineResult.HandshakeStatus.NOT_HANDSHAKING) {

              switch (hs) {

              case NEED_UNWRAP:
                   int read=1;
                  while (read > 0) {
                            read=socket.read(inNetData);
                            if(read==-1){
                                throw new IOException ("channel closed");
                            }
                        }

                  inNetData.flip();
                  engineRes=engine.unwrap(inNetData, outAppData);
                  inNetData.compact();

                  switch(engineRes.getStatus()){
                            case BUFFER_OVERFLOW:
                                System.out.println("overFlow");
                                break;
                            case CLOSED:
                                return false;
                            case OK:
                                //outAppData.clear();
                            //  inNetData.clear();
                                break;
                            default:
                                break;
                  }

              break;

              case NEED_WRAP :
                 outNetData.clear();
                  engineRes=engine.wrap(inAppData, outNetData);
                  outNetData.flip();
                  switch (engineRes.getStatus()){
                            case BUFFER_OVERFLOW:
                                System.out.println("overFlow");
                                break;
                            case BUFFER_UNDERFLOW:
                                System.out.println("underFlowa");
                                break;
                            case CLOSED:
                                return false;
                            case OK:
                                //outNetData.flip();
                                while(outNetData.hasRemaining()){
                                    if(socket.write(outNetData)<0){
                                        throw new Exception("Channel Has been Closed");
                                    }
                                }

                                break;
                            default:
                                break;


                  }

              break;

              case NEED_TASK :
                  Runnable r=engine.getDelegatedTask();
                  r.run();
                  break;

              case FINISHED:
                  System.out.println("finished");
                    break;

              case NOT_HANDSHAKING:
                    break;

                  default: 
                      throw new IllegalArgumentException("Inexpected/Unhadled SSLEngineResult :"+hs);

              }

              hs = engine.getHandshakeStatus();

          }
          return true;

    }

然后我使用非阻塞通道读取184/384字节。

read = _socketChannel.read（buffer）;

然后传递给buffer进行解密：

public ByteBuffer decrypt(ByteBuffer inNetData) throws SSLException{

        if(!isValidSession()){
            return null;
        }
            outAppData.clear();

            try{
              engineRes=engine.unwrap(inNetData, outAppData);
            }catch(Exception e){
                e.printStackTrace();
            }
              inNetData.compact();

              switch(engineRes.getStatus()){
                    case BUFFER_OVERFLOW:
                        outAppData=ByteBuffer.allocate(outNetData.capacity()*2);
                        inNetData.position(0);
                        return encrypt(inNetData);
                    case BUFFER_UNDERFLOW:
                        return null;
                    case CLOSED:
                        return null;
                    case OK:
                        outAppData.flip();
                        System.out.println(new String(outAppData.array(),0,400));

                        return outAppData;
                    default:
                        break;
              }


        return null;
    }

在engine.unwrap中抛出了异常 engineRes = engine.unwrap（inNetData，outAppData）;

Answer 1

这里有几个问题。

如果您获得BUFFER_OVERFLOW，则必须flip(), write(), compact(),并重复wrap()。不仅仅是打印并放弃，如上所述。
如果你得到BUFFER_UNDERFLOW，你必须阅读（）并重复展开（）。这是您的具体问题。
如果你得到任何类型的Exception，那么打印异常并不足以继续，就好像它没有发生一样。

FINISHED永远不会被getHandshakeStatus()返回。它仅在SSLEngineResult和wrap()返回的unwrap()中设置为握手状态。

您正在encrypt()方法中调用decrypt()。这没有意义。
您的整体技术不会奏效。握手可以随时发生，在读或写的过程中，你必须编写代码以便应对。当您成功完成后，您根本不需要调用自己的doHandshake()方法，因为您的代码无论如何都会处理它。

SSLEngine是一台状态机。你必须完全按照它的要求去做。

SSLEngine：成功握手后解包时无效的TLS填充数据

1 个答案: