View source for Instructor of Booting Alluxio

本指导知道大家以及以后的我怎么在一台新的服务器上部署Alluxio服务

= 对于Docker的虚拟机 =

Docker虚拟机在咱们的网站http://10.1.1.1:81 

申请虚拟机的时候在Json文件请填写"image": "10.1.0.180/alluxio/ubuntu_14.04.5:latest"即可。

= 对于一台新的物理机加到集群中 =

== 对新的物理机的安装操作 ==

首先你需要安装Java7或者8，安装nvidia驱动

然后修改vim /etc/profile

    export JAVA_HOME=/usr/lib/jvm/java
    export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar
    export PATH=$PATH:$JAVA_HOME/bin
    export PATH=$PATH:/usr/local/hadoop/bin:/usr/local/hadoop/sbin
    export HADOOP_HOME=/usr/local/hadoop 
    export HADOOP_INSTALL=$HADOOP_HOME
    export HADOOP_MAPRED_HOME=$HADOOP_HOME
    export HADOOP_COMMON_HOME=$HADOOP_HOME
    export HADOOP_HDFS_HOME=$HADOOP_HOME
    export YARN_HOME=$HADOOP_HOME
    export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
    export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

记得source /etc/profile


把物理机加入到Docker集群中

    ssh root@10.1.1.4
    cd /data/offlinesry/ansible
    ./add_slave  主机名  mesos

然后在网页以管理者身份登录
 
1) http://10.1.1.1:81/ui/auth/login  

2) 点击student

3）添加主机把物理机加入到集群

== 对新的物理机的网络操作 ==

需要把所有的虚拟机都绑定外网地址，这样他们才能跟Alluxio的Master180互通有无。下面是脚本：

    import os
    import re
    import pexpect
    import time
    for i in range(1,31):
            data=''
            ii=i+XX
            with open('/etc/sysconfig/network-scripts/ifcfg-enp3s0f0', 'r+') as f:
                    for line in f.readlines():
                            if(line.find('DEVICE') == 0):
                                    line = 'DEVICE=%s' % ('ifcfg-enp3s0f0:%s' %i,) + '\n'
                            if(line.find('IPADDR') == 0):
                                    line = 'DEVICE=%s' % ('10.1.X.%s' %ii,) + '\n'
                            data += line
            file_object = open('/etc/sysconfig/network-scripts/ifcfg-enp3s0f0:%s' %i, 'w')
            file_object.writelines(data)
            file_object.close( )
其中XX跟X是虚拟机的IP地址，ifcfg-enp3s0f0是网卡mac地址，请在这个表格里面看还剩下什么IP地址。

https://docs.google.com/spreadsheets/d/1_nia7F0xqIrlIsPpR5ZCayH9CaA9wA38KXObR_WVMwo/edit?usp=sharing

然后记得重启网络，或者你可以用命令行加一个暂时的。然后是添加iptables

    import os
    import re
    import pexpect
    import time
    for i in range(1,31):
            ip=i+XX
            ip2=i+1
            ll='172.17.0.%s' %ip2
            command1='iptables -t nat -A PREROUTING -d 10.1.3.%s -p tcp -m tcp --dport 1:65535 -j DNAT --to-destination %s:1-65535' %(ip,ll)
            command2='iptables -t nat -A POSTROUTING -d %s -p tcp -m tcp --dport 1:65535 -j SNAT --to-source 172.17.0.1' %ll
            command3='ifconfig enp3s0f0:%s 10.1.X.%s/16' %(i,ip)
            os.system(command1)
            os.system(command2)
            os.system(command3)

跟上面一样XX跟X是虚拟机的IP地址，ifcfg-enp3s0f0是网卡mac地址

需要打开的端口

[[Image:port.jpg]]

需要添加的hosts

https://pan.baidu.com/s/1bOm2wm

密码

[[Image:key1.png]]

如果你添加了新的虚拟机的地址，请上传新的Excel表并且修改这里Wiki与http://wiki.iiis.systems:9988/w/index.php/Alluxio_User_Guide 这两个链接

= 在Master中修改Alluxio配置 =

我们需要Alluxio的Master (10.1.0.180)中添加Worker让他知道多了哪些节点。所以需要在

    vim /root/mesos/alluxio-1.5.0/conf/workers

添加你的新的虚拟机IP地址，全部加上30个没关系，Alluxio会自行寻找哪些能通哪些不能通。

    ./bin/alluxio-stop.sh all
    ./bin/alluxio format
    ./bin/alluxio-start.sh all Mount


= 安装Alluxio与Hadoop =

    mkdir mesos
    cd mesos
    scp -r root@10.1.0.180:/root/mesos/alluxio-1.5.0 .
    scp -r root@10.1.0.180:/usr/local/hadoop /usr/local