CM方式搭建集群---基础准备

小编 2026-07-07 阅读:562 评论:0
生产中的集群规模: 一般情况下,在生产环境中根据集群查的规模分成三种 一,小型集群 20台以内 二, 中型集群 50台...
生产中的集群规模:
   一般情况下,在生产环境中根据集群查的规模分成三种
        一,小型集群
            20台以内
        二, 中型集群
            50台以内
        三,大型集群
            50台以上
基本组件的配置:
       1.zookeeper
             一,小型集群:3-5个节点
             二, 中型集群:5、7个节点
             三,大型集群:奇数个节点
       3.HDFS:主要做的是海量数据的存储
            3.1 :首先进行的hadoop版本的选择
                Hadoop主要的发行版本:
                    1.Apache:
                    2.CDH:->Cloudera Distribution Hadoop
                    3.HDP:->Hortonworks Distribution Hadoop
                    4.华为的:
                其中用的最多的是CDH的和HDP的,CHD是cloudera manager公司发行的版本,只支持64位的操作系统
                选择的原因是
                    一.免费
                    二.
                安装的方式:
                    1.tar包的方式
                    2.rpm包的方式
                    3.parcels包的方式,pacels方式是把所有的东西都封装成了一个压缩包,所以安装起来会方便一些,所以用的是最多的
                    但是在cdh 4.1.2之后才有的,也是官方推荐的一种安装方式,安装的时候必须要cloudera manager的管理平台进行安装
            3.2环境准备:
                3.2.1:磁盘阵列
                        RAID 0 :
                        RAID 1 :就是两块磁盘映射成一块磁盘使用,当集群运行中当其中的一块磁盘损坏的时候不会损坏集群,因为两块磁盘是相互映射备份的
                        JBOD   :DataNode存储数据的推荐方式
                3.2.1:操作系统
                    Redhat、Centos推荐6.x,具体的版本配置在cloudera的官网可以查到
                3.2.2:系统设置
                    IP地址统一:尽可能在同一网段
                    主机名设置:
                    设置文件打开数据和用户最大进程数:
                        查看方式:
                            ulimit -a
                            ulimit -u
                        修改方式:vim /etc/security/limits.conf
                    防火墙设置:
                    开机启动项设置:vim /etc/init.tab
                    禁用设置:Selinux(如果不禁用,centos会装不成功)   /etc/sysconfi/selinux
                    用户权限设置:普通用户主要用于安装软件,集群中的所有的普通用户必须一致
           一,小型集群:3-5个节点
           二, 中型集群:5、7个节点
           三,大型集群:奇数个节点
版权声明

本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。

热门文章
  • Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering

    Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering
    Problem Statement 我们考虑一个具有马尔可夫性质、非线性、非高斯的状态空间模型(State Space Model):对于一个时间序列上的观测结果{yt,t∈N}\\{ y_t , t \\in N \\}{yt​,t∈N},我们认为每个观测结果yty_tyt​的生成依赖于一个无法直接观察的隐变量xt∈{xt,t∈N}x_t \\in \\{x_t , t \\in N \\}xt​∈{xt​,t∈N},即:p(...
  • 机房智能化温湿度解决方式之POE供电以太网温湿度传感器

    机房智能化温湿度解决方式之POE供电以太网温湿度传感器
    机房智能化温湿度解决方式之POE供电以太网温湿度传感器 北京盈创力和电子科技有限公司 智能型TCP网口温湿度记录仪 北京IP网络温湿度记录仪厂家,北京盈创力和 北京智能型TCP网口温湿度记录仪IP网络温湿度记录仪是一种新型的基于TCP/IP协议双绞线以太网标准温湿度采集模块,利用它可以实现现场温度值、相对湿度值的采集,同时利用其自身的RJ45通信接口可以方便地和机房监控主机或交换机集线器进行联网。 工作于-40℃~85℃工业级带...
  • Hive 系统函数及示例

    Hive 系统函数及示例
    查看所有系统函数 show functions; 函数分类 内置函数【系统函数】 数学函数: floor、round、ceil、cos、log2等 字符串函数: length、reverse、trim、lower、get_json_object、repeat等 收集函数: size 转换函数: cast 日期函数: year、month、datediff、date、date_add等 条件函数: coalesce、case…w...
  • CSRF的原理和防范措施

    CSRF的原理和防范措施
    a)攻击原理:i.用户C访问正常网站A时进行登录,浏览器保存A的cookieii.用户C再访问攻击网站B,网站B上有某个隐藏的链接或者图片标签会自动请求网站A的URL地址,例如表单提交,传指定的参数iii.而攻击网站B在访问网站A的时候,浏览器会自动带上网站A的cookieiv.所以网站A在接收到请求之后可判断当前用户是登录状态,所以...
  • HTTP状态保持的原理

    HTTP状态保持的原理
    a)在用户登录之后,浏览器返回响应的时候会在响应中添加上cookieb)浏览器接收到cookie之后会自动保存c)当用户再次请求同一服务器中的其他网页的时候,浏览器会自动带上之前保存的cookied)服务接收到请求之后可以请 request 对象中取到cookie 判断当前用户是否登录  Http是无状态的,就是连接时数据互通,关闭后...
标签列表