我想测试使用Java应用程序从Apache HBase中提取数据。该应用程序将使用类似SQL的查询通过JDBC到Apache Phoenix。
我已经设置了我的Hadoop"集群"在一台使用Ambari和HortonWorks HDP 2.5平台的机器上。我还使用Ambari的向导对环境进行了Kerberized,其中我的KDC是运行Windows Active Directory的单独机器。
Ambari没有显示任何错误,我可以使用sqlline.py
通过Phoenix成功地对HBase进行类似SQL的调用。我以这种方式设置了一些示例表(参见HortonWorks Phoenix & ODBC tutorial,尽管我必须首先考虑kinit
等。
但是,我在创建要由Java应用程序使用的JDBC数据源时遇到问题。就我而言,我计划在WildFly 10.1上托管webapp,我正在使用带有JBoss Tools插件的Eclipse JEE进行开发。
以下是我用来创建数据源的步骤:
Datasource Explorer>数据库连接>新建...
jdbc:phoenix:hdfs.eaa.local:2181/hbase-secure:HTTP/hbase.eaa.local@EAA.LOCAL:jboss.server.temp.dir/spnego.service.keytab
phoenix-core-[version].jar
依赖项添加JAR文件。驱动程序类为org.apache.phoenix.jbdc.PhoenixDriver
。我从an extant post in the HortonWorks community获得了连接字符串,这就是为什么它包含用于连接的Kerberos主体和密钥表。
当我尝试测试数据源连接时,它会在吐出错误消息之前搅拌大约5分钟(在35次尝试之后)。客户端返回套接字处于"关闭状态"的Java异常,并且Zookeeper日志不太有用:
INFO [SyncThread:0:ZooKeeperServer@617] - Established session 0x157aef451560217 with negotiated timeout 40000 for client /192.168.40.3:52674
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@197] - Accepted socket connection from /192.168.40.41:43860
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxn@827] - Processing ruok command from /192.168.40.41:43860
INFO [Thread-1448:NIOServerCnxn@1007] - Closed socket connection for client /192.168.40.41:43860 (no session established for client)
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@197] - Accepted socket connection from /192.168.40.41:43922
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:ZooKeeperServer@868] - Client attempting to establish new session at /192.168.40.41:43922
INFO [SyncThread:0:ZooKeeperServer@617] - Established session 0x157aef451560218 with negotiated timeout 40000 for client /192.168.40.41:43922
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:SaslServerCallbackHandler@118] - Successfully authenticated client: authenticationID=hbase/hdfs.eaa.local@EAA.LOCAL; authorizationID=hbase/hdfs.eaa.local@EAA.LOCAL.
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:SaslServerCallbackHandler@134] - Setting authorizedID: hbase
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:ZooKeeperServer@964] - adding SASL authorization for authorizationID: hbase
INFO [ProcessThread(sid:0 cport:-1)::PrepRequestProcessor@494] - Processed session termination for sessionid: 0x157aef451560218
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxn@1007] - Closed socket connection for client /192.168.40.41:43922 which had sessionid 0x157aef451560218
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@197] - Accepted socket connection from /192.168.40.41:44008
INFO [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxn@827] - Processing ruok command from /192.168.40.41:44008
INFO [Thread-1449:NIOServerCnxn@1007] - Closed socket connection for client /192.168.40.41:44008 (no session established for client)
NB。 192.168.40.3是VPN服务器,我的主机用于通过Hadoop集群隧道进入环境。 192.168.40.41是运行集群的计算机hdfs.eaa.local
。
有大量已接受的套接字连接,然后立即关闭。客户端偶尔会成功进行身份验证(因此我对我的Kerberos设置有信心),但之后会立即终止会话。
我还试图通过jboss-cli
以及standalone.xml
和module.xml
修改直接在WildFly中部署数据源。但是,如果没有为phoenix-core-[version].jar
的每个必需JAR(并且有很多)创建新模块,我会发现很多缺少依赖关系的问题,我不确定如何解决这个问题。我跟着this guide。
我该怎么做才能解决问题或进一步诊断?我已经把头发拉了几天了。
答案 0 :(得分:0)
您需要将hbase-site.xml
和core-site.xml
添加到类路径中。
有关详细信息,请参阅How to connect to a Kerberos-secured Apache Phoenix data source with WildFly?。