我可以使用100 Mbps网络交换机进行Hadoop迷你群集设置吗?

时间:2013-03-15 05:02:18

标签: networking hadoop

我愿意使用虚拟盒运行12 Node Hadoop Cluster。我有3台真机,每台机器在虚拟机箱内运行4个数据节点。我能够使用LAN线连接2台机器,并能够建立8节点集群。现在我必须通过交换机连接第三台机器,以便我能够运行12节点集群。我的NameNode的RAM是1 GB,所有datanode是512MB。我在所有机器上使用64位核心i3处理器,每个节点的容量为8GB。我的问题是我可以将以下提到的交换机用于我的网络拓扑吗?

http://www.flipkart.com/d-link-5-port-10-100base-t-unmanaged-switch-network/p/itmdffymrfgngzsf?pid=NSWDFFYGUQ9GHMF9&ref=1938618c-3737-471e-941b-3e4bb41972fe&srno=t_1&otracker=from-search&query=switch

因为它支持100 Mbps的速度。我的预算有限,因为它是我的大学项目。

2 个答案:

答案 0 :(得分:1)

它会很慢,但会正常工作。

答案 1 :(得分:1)

您的设置显然不适合典型的Hadoop工作负载。它们需要快速的网络和大量的RAM。我敢打赌,你将获得更好的性能,将所有磁盘和RAM放入一台机器而不是迷你集群。

但是,如果它仅用于教育项目,也不计划处理中型或大型数据,也不关心性能,那么它将起作用。根据您的设置,我不确定100mbs网络是否会成为瓶颈。