PHP调用SHELL下传本地文件到Hadoop的hdfs中

php中文网
发布: 2016-06-13 13:19:51
原创
1043人浏览过

PHP调用SHELL上传本地文件到Hadoop的hdfs中

本来是用thrift进行上传,但其上传效率之低,另人发指,只好选用其它方法。

?

立即学习PHP免费学习笔记(深入)”;

环境:

php 运行环境为nginx + php-fpm

?

立即学习PHP免费学习笔记(深入)”;

因为hadoop开启了权限控制,所以直接使用php调用shel进行上传时,没有权限。通过php执行命令看来,php运行的帐户和级均为nobody。因此,解决方法有两个:一,在hadoop的shell中创建目录,并把目录的所有者赋给nobody组的nobody用户。二,原来的目录权限放开,使用777。下面详讲操作步骤:

?

立即学习PHP免费学习笔记(深入)”;

方法一:./hadoop fs -chown -R nobody:nobody /resources

注:/resources是用户目录,需要根据情况改变

?

立即学习PHP免费学习笔记(深入)”;

方法二:./hadoop fs -chomod -R 777 /resources

微软文字转语音
微软文字转语音

微软文本转语音,支持选择多种语音风格,可调节语速。

微软文字转语音 0
查看详情 微软文字转语音

注:/resources是用户目录,需要根据情况改变

?

立即学习PHP免费学习笔记(深入)”;

php调用shell的方式:

public function uploadByShell($local, $hdfs) {
			
			$shell =  "sh /usr/local/hadoop/hadoop-0.20.2/bin/hadoop fs -copyFromLocal " . $local ." " . $hdfs;
			$shell .= "; sh /usr/local/hadoop/hadoop-0.20.2/bin/hadoop fs -chmod 777 " . $hdfs;
			$res = null;
			system($shell, $res);
			$flag = false;
			if ($res == "0") {
				$flag = true;
			}
			
			return $flag;
		}
登录后复制
?

?

立即学习PHP免费学习笔记(深入)”;

?

立即学习PHP免费学习笔记(深入)”;

?

立即学习PHP免费学习笔记(深入)”;

?

立即学习PHP免费学习笔记(深入)”;

相关标签:
php
PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号