设为首页
优惠IDC
收藏本站
六狼博客
六狼论坛
开启辅助访问
切换到窄版
用户名
Email
自动登录
找回密码
密码
登录
立即注册
只需一步,快速开始
只需一步,快速开始
快捷导航
门户
首页
BBS
云计算
大数据
手机
移动开发android,ios,windows phone,windows mobile
编程
编程技术java,php,python,delphi,ruby,c,c++
前端
WEB前端htmlcss,javascript,jquery,html5
数据库
数据库开发Access,mysql,oracle,sql server,MongoDB
系统
操作系统windows,linux,unix,os,RedHat,tomcat
架构
项目管理
软件设计,架构设计,面向对象,设计模式,项目管理
企业
服务
运维实战
神马
搜索
搜索
热搜:
php
java
python
ruby
hadoop
sphinx
solr
ios
android
windows
centos
本版
帖子
用户
六狼论坛
»
首页
›
操作系统
›
Ubuntu
›
Ubuntu下搭建单节点Hadoop环境及WordCount示例的运行 ...
返回列表
查看:
73
|
回复:
0
Ubuntu下搭建单节点Hadoop环境及WordCount示例的运行
[复制链接]
aaron-han
aaron-han
当前离线
积分
127
窥视卡
雷达卡
升级
51.33%
当前用户组为
秀才
当前积分为
127
, 升到下一级还需要 73 点。
37
主题
37
主题
37
主题
秀才
秀才, 积分 127, 距离下一级还需 73 积分
秀才, 积分 127, 距离下一级还需 73 积分
积分
127
发消息
楼主
|
发表于 2013-1-15 13:30:48
|
显示全部楼层
|
阅读模式
基于前两篇的基础,在ubuntu下搭建hadoop环境及运行wordcount示例的过程比较顺利,现做一下简单记录。
环境:ubuntu10.04 hadoop0.20.2 jdk1.6.0_29
步骤如下:
1.安装JDK并配置环境变量
一些文章里说用sudo apt-get install sun-java6-jdk之类的命令,我对ubuntu比较小白,半天也没折腾出来,然后就直接去oralce的官网下了linux版本的jdk。
配置环境变量:
sudo gedit /etc/profile
在最后边追加:
#set java environment export JAVA_HOME=/usr/java/jdk1.6.0_29 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$CLASSPATH
别忘了用echo和java -version验证以下。
2.添加用户组和用户,都取名hadoop,新用户hadoop不能执行sudo命令。
sudo addgroup hadoop sudo adduser --ingroup hadoop hadoop
3.配置ssh
sudo apt-get install openssh-server //安装openssh-server su - hadoop //切换到hadoop用户 ssh-keygen -t rsa -P "" //生成ssh key cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys //设置允许ssh访问
设置完成后通过ssh localhost测试一下。
4.关掉ipv6
修改hadoop根目录下conf/hadoop-env.sh文件(还没下载hadoop的下载解压先~)
export HADOOP_OPTS=-Djava.net.preferIPv4Stack=true
5.将hadoop目录所有者更改为用户hadoop
sudo chown -R hadoop:hadoop /usr/hadoop-0.20.2
6.安装hadoop
过程同windows下基本一致,详见之前的文章。还是要
注意两点:a.设置core-site.xml中hadoop.tmp.dir的值,我设为/home/hadoop/tmp。b.把hadoop-env.sh中JAVA_HOME前边的#去掉。
7.格式化namenode
./hadoop namenode -format
8.启动hadoop
./start-all.sh
9.启动成功后,用jps查看下。
10.运行WordCount吧!少年!
wordcount示例运行详见前边的文章,但是并没有出现在windows下出现的那两个问题。
参考博客:
http://www.cnblogs.com/end/archive/2011/04/19/2021536.html
http://www.hadoopor.com/thread-2674-1-1.html
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
浏览过的版块
Html/Css
os
C
Copyright © 2008-2020
六狼论坛
(https://it.6wolf.com) 版权所有 All Rights Reserved.
Powered by
Discuz!
X3.4
京ICP备14020293号-2
本网站内容均收集于互联网,如有问题请联系
QQ:389897944
予以删除
快速回复
返回顶部
返回列表