版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、熟悉常用的Linux操作和Hadoop操作1)t余令:切换目录(1)切晦!J目录AJST/IOC扎hadoopjidell-OpttPlex-zeso-China-HDD-Protectionscd/usr/local(2)切换到当前目录的 L 级目录|hddoop勺:/USF/IOCBISid二就冲州当前受录Linux索烧的用户目己的主文件夹,adoopdell-OptiPl2x-705(3-匚hina-HDD*PrctEcti口n:/UG5可2Is会令:查看文件与目录查看目录/u8下的所有文忤和目录adoopdell-OptiPlex-7050-China-HDD-Protection:*
2、$cd/usradoDpgdeH-OpttPlex-TOsd*ChtnaHDOProtecttrirtf/HiS113jmkdir命令:新建目录U)i&A/tmp目录,自庭t名为a的目录,并查看nip目录下已经存白邮些目互hadoopdell-QpttPlex-7650-Chtna-HDD-Protection:cd/tnphadoopgdell-OptlPlex-7050-China-HDD*Protection:/tp$Fkdirahadoopdell-OpttPlex-7050-China-HDD-Protection:Is一“-?-?12)进入/tmp目录r划津目录日17盹/日
3、3归%hadoopdell-DptiPlex-7D5e-Chinft-HDD-Pr0tection:/tp$nkdirPhddoopQdell-OptiPlex-705B-China-HDD-Protection:f5P5Is2.hlIDE:Z/bluy.usdtLiw?l/wozyiuitzhotuhLial4)rmdir余今:胴除三日勺目录(1)将?面创建的目录at/tmp目录下面删除。6 出赊?面印弹的目录al/a2/a3/a4(rr/tmp目录下同)然后古看/tmp目录下面存不度些目录.hndo口口Odcll-0口ttPlux-7日50-thlna-HD0-Potc?utlQn/tMp
4、$r府dtrmi/Q2/a3,a4-S)卬会令:复制文竹或目录(1)将当前用户的主文件夹下的文神?日正底算制到目录1/UM,F下,井垂品苔为bashrclhadoopdell-OpttPlex-TOSfl-Chtna-HDD-Protectionsudocp广bashrt/usr/bashrclsudohddQQp的密码:tip.一一唱91.IWz*UR-可编辑修改-(2JH-FT/tmp|-羽.史日多”01.出区“=.云后/.二九二至卜hadoop(?dell-0pttPLex-7055-ChtnHDD-ProtecttoF:*Scd/tnphm 加 opqdell.QpttPlex.yoW
5、.chlnlBiibjpFdtiBdacnW/tKBTRkiHyT&FtihadOPflde1l-ODttPlgK-7B50-ChlKH-HDO-POtCttQn;j55UdQHDftPIQ/t5t,US一6)niv温。,将用文件与目乖r或更名格usL目录下的文件bashru移动到VusrAest41目录下hadoopdell-OpttPlex-TOSO-Chtnd-MDD-Protectton:sudonv/u&r/bdshrcl/usr/test港)相,明目录下的tst日屈星品名为trt2had口pdull-0pttPlx-7850-Chlna-H口Ci-PrctEtitt
6、on:“,,udonv/u/teGt/uG/t正号t2了)m命令:星除文件就目录(1)海7usrflest2H目录下的bashrd文代删除hadoQpgdll=0pttPlex=785U-Chtna-HEK)-Pot.ctlQn;/u?5sudom/u5/te写t2/ba$h匚1(2)将Vusrf?Jtest?目千二原hadocp9deVl-QpttPlex-7050-Chtna-HDD-Protection;/usr$5udprnrf/U5r/test28cat命令:百看文件内容百看当前小户主文件夹下的?处hrc文件内容h4doopdell-OpttPlex-705e-Chtna-HDD-P
7、rotectton:-$cat*bashrc9)Id匚晶令:反向西看文件内容反向查看当前用户主支件夹下的?脑用匚文件的内容hadoGpedel.l-apttPlex-7O5B-china-HDD-ProtechadoGpedel.l-apttPlex-7O5B-china-HDD-Protectac-bashrctac-bashrc101more第令:一页一页翻动吉看翻更直看当的用户主文件央下的.b骷卜底文件的内客11)I】曰d命令:取出葩面几1亍(1)查看当前用尸主文件夹卜?杷h贯文件内容前20行(2古音当前用户主比夹下?第h文件内容,后面50行不显示.只且示的面n行hAdopddell-O
8、pttPlex-TflSO-ChLna-HOO-Protectton:-$hcadl-n-50.bashrc12)匕il命令;取出后面几行(1)查看当前用户主定件夹下?处ML文件内宫会J20行hadDopQdelL-OpttPltK-753-thinm-HtJO-Po七士二?七。励;-5tai-J123,b5ht-可编辑修改-吉有三刖月户主文件夹下.bash文衿内容,并且只列出50行以后的数据hedoopadell-OptiPlex-7050-Chida-HDD-Protection;$tailn50,bashre13)touch港令:修如?牛固间或创建新文件(1)在“/tEp”目录卜创建一个
9、空文件hd2,并查春 M 忤灯同15)findl蠡令;文科员找找出主文件本下文件名为.山加工的文件Md 吧 g&ll-OpHPls。时照行即贴加出疥钝叫索工都嘘了点不妍岳i匕公卜|、16tjr芯守:压维会令在根目录T下芳建文件夹test,然后厘目录T下打包瓦拄叱tmgzhadoopradell-OptlPlec-7O50-Chiina-HDD-Protection:tar-zevftest.tar.gztesttW$t/ht(ps:/tilog*esdn,net/wDzonmoziipnwsnuai(2)把?面的test.tdr.gz压嫡包.US压缩到/Imp”目录lhadoopede
10、ll-OpttPlex-7050-China-HDD-Protectiori:-Star*zxvftestAar.gztest/R,ips:/bIugacsdiLiI/iozeiinit;zheBeriuai-可编辑修改-hadoopdeTL-OptlPlex-7&5O-Chtna*HDBhadoopdeTL-OptlPlex-7&5O-Chtna*HDBhadcopfdell-OpttPlex-TOS9-Chtna-HDDhadcopfdell-OpttPlex-TOS9-Chtna-HDD1roothddoop03j26-Protection-Protection-Prip
11、tejcJttPAe&ioehello: :/tnp$/tnp$sudosudo解值1 1R R,相 7chownroothellogl,lqn,-Ji.:hi.stathello普造:什:(1001/hadoop)r大小:日篦901h/2e4d问:201B03-31改:2018-03-31动:2O1B-03-31doopQdtll-nptlPlex-7050-chtna-HDD-ProtectianT/tmp$doopadell-OptiPlex-7056-ChinA-HDD-Protect!on:/tmpS文件:hello:0644/-rw-r块:日TO块:409GJnode;65
12、S121硬链接:1-)Hid:(1001hsdoop)Gid09:S3:55.3723S2&92+OBO009i23:55.3723S2S92+8日。98;23;5毛啃够并2脚淤甲?普通空文件生改:09:27:44.76145S0fi9-9&3电: 田esdn.DBt/*0enmc7h(?neshiiai2O1S-03-262018-ei-ai大小:o设备:B01h/2B49d最近改动:touch-d12018-3-2C5hellostathell。)Utd*f1S01/had。)Gtd:l&Ql/had。口)os:oa:04)T0eo-)oe00t)+ouo3oi5;
13、0fl;eo.oeooeoooo-岫 g:J6644/-rw-r-r 访问:2018-W?-2bh己doopMell-OptlPlex-7DSfi-china-HDO-ProtcGtion;/tFipShadoop$dell-DptlPleK-7050-Chtna-HDD-ProtecttDn:/tnp$文件:hello块:610tt:409fiinode:fassizl硬篮接:1桃最 最、修改hello文件,存文件时间整为5天前14)thewn器令:修改文件所有者校藜寻hello文件斫育者改为root咻号,并查17grep命令:直找字符串从*-/rbashrcB文件中有找李总昂kxdmple
14、shadoop3dell.-QpttPleX-705e-chtn*-HCO-prcteett0n:-$grep-rnexamples,bashrc#see/u&r/share/dQG/bash/startup-files(inthebash-doc)律 forfor八一#See/y 受j5hw7Qoc/Bash 二 doc/I。thebah*d。匚 pa 匚*3白色18)使用hadoop卸5登录Linux系统,启动Hadoop(Hadoop的安装目覆为Vusr/local/hadoop*),为hadoop司户在HDF5中向江用白目录川$洌冲加。口”hOpttPlex-7050-Ctit
15、na-HDD-5一四kdL匚_/wr/枭ad。口.19)捺看在HDFS的目录7cbw/hddu:/ur/locl/hodcop5*/bin/hadnopf$e$e;-/.bMm-/.bMm /九J J?,必hadcopdell-OpttPLex-7050-ChtnaHDD-Protectton:/usr/loccl/hadoop5./btn/hadoapfs15test18/63/31g:59:42WARNuttlNatlvecodeLoader:unabletoloadnativehadooplibraryforyourplatforn.,UElngbutltin-javaclasseswh
16、ereapplicableFound1Items-rw-r-1hadoopsupergroup404620183-3189:57test/.bashrc21)层HDFS文件更test售售倒Unus柒蛇本地文件系统的7usr4ocat/hackop曰表下-T-ff-ff-hadoopadell-OptiPlex-7050-China-HDD*ProtectIon:/usr/local/hsdoopS,/btn/badoopf与PMtest/ttext.txt|卬;ftk:7hone/hddoap/locdLt*口 MoguchfileodlectnyPrebicmi-Javadoc&Dc
17、draborQCamak 案etxmnaf:eHDF5Api(JavaAppliratnn|/irs7lib/jvm/java-7-opepitk-dmdW/binfiva(Dec15,20ifc4:S4:?flA 刚IOQ4:W*RNNOappendprscouldDrfoundforlogger(org,apache.hridoip,Cjnt.Coitignrarion,denrtcat:L 叫町:MHhFledgeliilUisliJethelog4j/ipto|Kjrly,Eoq4j;W/iRNSeehttp;1egging.apache.cirg/log4i/L,2/faq,htnl
18、occnfLgforrereinfc./user/hadoDp/teict.txt 已存在./hwre/hadoop/teMt.txt 已里想至/LS&r/t,adoop/t#it.txtQ)从HDFST卜载指至文件,如果本旭丈什与要卜教的文件品称相小自动对卜载的文件里人名;hadoopebuntu:/LSr/Ijcal/hadjcp/btri$-cop/ToLocaltext.txt/texttxt-可编辑修改-hdoap4ubuntui:/usr/locaiyhadoc(/btn$t.txthadoopubuntu:/ur/Local/hadoop;hHOFSApiApplktio
19、n/u$r/lib/jvni/jatfd-7-iua(DecT5,20log4jIUARNPleaseinitializethelog4js/stenproperly.Iog4jtWARWSeehttp/logging.apach&.org/l&g4j/12/faq.htulfnoconfigfornoreinfi/hcmc/bfldoop/tcxt.txt已存在.将as/曲名为:/honerhjduop/t&xt.txr&宾成3将HDFS中指定文件的内容输出璐端Ihadoopubuntu:hadoopubuntu:/usr/local/hadoop/btn$/
20、usr/local/hadoop/btn$*Jhdr$dfscattext.txthellohadocp*Jhdr$dfscattext.txthellohadocp:ProblemsfiJavadoc氢DecLdration口CamoleS3HDFSApiJavaApplicabcn)/usi/lib/jvmjava-7-operijtfkarnd64/biravaDec15120165:02:40AMI094j:WARNNnappeid?rtcouldbefoundfcrLegg0r(org.apache.hadcop.con41.Configuraticn.depnlogj:wAmPle
21、a&einitializetheloq&jsystemprcperly.i5WARNseehttp;/urging.apechcQrg/log4j/L,2/faq*html#npc5nfigfprmoireinfc.鼻归:话理目录下所有点件的信自:/user/hadoop蠢存MTf:/localhdt:90BG/user/hadHF:i/tert.txt权(8:-r-r-m提供一个HOPS内的文件的路径,对该文件进行创建和删除掾作”如果文件所在目录不存在,则自动创建目录i-可编辑修改-|hadopiubuHtu:/usr/local/haddop/bin$./hdfsdfsmd
22、tri/dtr2/ftlenanejrn:dirl/dir2/filenanel:Nasuchfileordirectory工Problems值Javidoc给Dedaration口ConsoleS3terminated*HDF5ApijaaAppl:ution/usf/lifa/jvTijva-T-cperijijk-flrndMlbiri/favs(De?.org/log4j,2,1faq.html*nocQTfigtormo-eic+o,创建立性或:/n5*rhdcop/input刖建晒烹;/Vser/hadoop/lrwut/text.txt7)提哄个HDFS的II录的路径,时谟K录进
23、行创建和删除操作.创建目录时,加果日录文件所在目录不存在则自动创建相应H录;捌除目录时,由用户指定当该目求小为空时是否还删除诿目求;IrrrhadDop-subuntui/uir/locdl/hddocjp/btnS,/hdfsdts 咄 。1 叩dlridlr;hddoopRubuntv:/ 二 八cl/hodgp/b七n5,)hdfsdfs-mdirdlrl/dtr2卜 壮 。 叩 。ubuntu : /us八GE。hndonp/biriShdfs-rm-R(Jiri/dir2|n:difdlrZ*:N。su匚艮fileordlrectorv;Problem;同J也为dotFDeclara
24、tionConoi裔trrrr:inattci*HDFSApi.avaApplication/usr/lib/|vm/ja7-openjdkcmd$4bin/ovajDec15,20165log4用ARNMDappenderscouUbefoundforloggerapathe.hddoop.conf.CofiguratIOQ4j:bMRNPleaseinitializethelog4jsystemproperly.Iog4j:MARNSeehttp;/Aoqgin?Local.txtbasti:./cat:hosuchfileorclrectoryhadoop9ubuntu:/ur;locu
25、l/hdocp,btn*/hdfsdfs-cop/rronLocal-Ftext.txttext4txt*.*.ProblemsProblems面J4v4docJ4v4docDedaraUon9ConsoleDedaraUon9ConsoleH HIIkIIkHDFSApiJavaApplication/ur/1ib/jvm/java-7-apeidk-amd64/brn/jdua(DecIS.2016log4j;*ARNNDappenderscouldbetounflforlogger(orgapach,hadoop.corf.configural&g4j;WARHinjtialif
26、cthelog4j”式 sproperly.lD94j:IMRMSeehttp:/logging.apacbeorg/lo94j/1.2/faq.htalfnoconfigfornorei.n1c.已递加内日利文件茶加懿/hadgWtrt.bt9fHDFS中指定的文件hodaop4ubuntu:-/lcal/hcJopybUi$./hdfsdfsrntcxt.txt16/12/1505:1:51INFOfs.TrashPoltcjfDefaulttN自用电nodetrabconftgtirattcn:OLettonLnteivdl二DnlnuteitEnptlviIntervdl-0nlnut
27、?s.loeletedtext.txt由于 m 条所以会显不操作知k kcermifUeGriurApijavjAppitcitionj/iJSf/iio/jviTi/jva-cpenjciK-amcim/Din/jdvatueci,zuIDLog4JkARNNDppenderscould血foundTorlogger(org.apacne.hdaop.conTHconngura!oq4j;%ARHPleaseinitializetheloq4systemproperly.:GEJS1*JjA.1*JjA.口UC44ti-f-1-ira,-UC44ti-f-1-ira,-,JIkeeGinn=
28、tnanmJ1ccJIkeeGinn=tnanmJ1cc4/1rj#nrk,fr-m1Jlf-rw4/1rj#nrk,fr-m1Jlf-rw#G-gerjagerja3ww$k3ww$kCIO)除HDFS中指定的户指定目录中如果存在支件时由否录;-可编辑修改-主于前面己空删除,所以显示无该文件.| |hdoopiuluntuz/$./hdfsdfs-rmdtrdtrl/dtr2mdtr:dlri/dtr2:NOsuchfileordirectorybadocp4ubwntv:/usr/local/had0Qp/iblr$,/hdf$dfs*m-Rdirl/dlrlrn:dtrl/dtr2:Wo
29、suchfileordirectoryProblems醺Javadoc咽Odv词。n国ConsoleStennnatedHDFJApijav5AppUtiari/sr/lib/jvm/iave-TQpenjcik-amdM/birVjs201。5:1比2log4j:WARN界白appundur$couldbefoundforlogger(orgtapacheadoop,conf.Canfigurotion,log4j:WARMPleaseinitializethelog4jsystemproperly.log4J:wflfwseehrtp:/ylog4j/1
30、.iqrimifnoconf1gTornoreinfo,目录不为篁,不副峥Cll)在HDFS中.将文件从源路埠移动目的路径adoopubuntu:j7-opemtik-rrifV/afDeciZ0165:26:HAMSlog4jNDnppcndcrscouldbefoundforlogger(erg.apachicbhjidlop.confPConfigiurationBdicprccati3n).Loq4i:WAENPleaseinitializetheU04jsvstemnroperly.Iog4j:WARNS&ehttp;//14/1.3/f
31、aq.htBl*noconifigform&irein+o.得文杵hdfs:/useir/hadtMp/text,txthflfs:/user/riadp/nM.txi7编FFL川WFSDataInputstr?nnt017apacheliadoopfs:FSDataInputStreamJ,,要求如下;实现按行读取HEEFB中指定文件的方法“readLineO,如果读到一件末尾,则返回空否则返回文件一行的文本。进行文档读取如翻Prablems1JJavadoc.Dechiation3tonsDie寒MyrsoatdinpjtstreamJavaAppticatfon/usr/lib/
32、lvm/java*了Operjdk4mdein/swa:log4j:NARNHOappenderscouldbefoundforlogger(org.apache.hadoop.confconfjdurailog4jWARFlpaseinitiAlirpThelogq4j: ARNMO3口口电cOuldU电ffluTXJfor1。勺电电1明灯爆部则Pleaseinitializeitielog?propl&gdjseehtrp//1og4j/1.1iieilohackx)p熟悉常用的HBase操作1实验内容和要求1.编程实现以下指定功能,并用 Ha
33、doop 提供的 HBaseShell 命令完成相同任务:(1)列出 HBase 所有的表的相关信息,例如表名;-可编辑修改-hbssematn):B91:d*listTBLESI1row(tr6.193spcandfqIsVl(2)在终端打印出指定的表的所有记录数据;3seglR)R0Z:gson*51ROWCOLLJNN*(ELLerg4)Ina.lieflMKandq(3)向已经创建好的表添加和删除指定的列族或列;添加:hb*w(Chput电=Jiharngani111ficer#,:Kathf*69,rew(sJtn8IF收SKondtjI、iNefteError;unidefined
34、localvartAibleornethodts1far*0bSect;0 xb*03am删除:iba&e(natn):61i:9delete1si11zhanqsdnbf1score:Mathirow()tn8.9978seconds(4)清空指定的表的所有记录数据;hbate(ratn):ei9:a*truncateJlTruncattnq*511tabic(it“ytakecwhile)zDisablingtable.Truncatingtable.oew()in3.779seROWB1*()tn6,140(5)统计表的行数。-可编辑修改-hbae(ratn)ROWlistwdn
35、Qwv2fa4(s)tn0,0210YiCOLUHN+CELLc0lu-5core:athtcolu*ia-scOre:*th.second%tgmnp-i4a223知。日13,velue-BStlrStaT0-1482235732643(vAle-75scan*slT8L5WKELLhbase(Natn):621:0counte)Ln日03。今seconds2.现有以下关系型数据库中的表和数据,要求将其转换为适合于数据:学生表(Student)学号(S_No)姓名(S_Name)性别(S_Sex)年龄(S_Age)2015001Zhangsanmale232015003Maryfemale2
36、22015003Lisimale24课程表(Course)课&#(C_No)课程名(C_Name)学分(C_Credit)123001Math2.0123002ComputerScience5.0123003English3.0选课表(SC)学号(SC_Sno)课&#(SC_Cno)成绩(SC_Score)201500112300186201500112300369201500212300277201500212300399-可编辑修改-HBase 存储的表并插入201500312300198201500312300295学生表:创建:卜射孑2 2:=GN.0.Wro)tn1.
37、38MctSTUCH.T*WjSTUCH.T*WjhbJiNztn卜SS:*,fcin5tutB28ErwfsjInB.ee4tMtrstu*ftts,test*/s.Mitisaei1hb-heO-lrO:827:*arew(cJin3 一。 1 修日putTtudmtSMI35tara;EMfig“n!s.crdcMit1Student1fsOTH.1./2l*5)K5)K“小hbs(Ff*tn)hbs(Ff*tn):O2O2, ,9 9:OOS S/修学inB.0IMI0inB.0IMI0iMlt,Eu*nt;,RTJkW口eccrd%hbaitNtn)iiBMeUMI事81tafli1
38、raw(stnttitlit&ufi*Studert1C0lWW*CUlQlura=SAg:vtIdReitR(l|i3MMJ3&.v4lu BiWA_feLMBiWA_feLM !rLlW!rLlW taflptaflp 1l41l4 36i3flftJIl36i3flftJIlp pLT1URLT1UR ZhaZha呵主;HiHiCdunn-S_ho: ,tVwttaRpl4Al1161SMRnlucMiSMlcolwnn*S_ScM: .ttreitdi*ll223439S*41pvdluciMlicccmdsbbs.e(n4tni)i:839:8:sdlue-n4leM
39、ltvtdi-i:$_AjcPFLLFtt*mr】w*2EW5$:274*21$.AqtLbtlx5t耳BWE加72914*VlkiC-i4,S3:*tlFeL:4Hp=1454jvalue=lLlseeicolidW=I_N0:itL116M7CT21VJLU*=M1SM3M3colurr-S_SeM:ttlwitjn(S22M43k3ai3rM(9)th0.0520ssndi课程表:-可编辑修改-ccanCoCClUHNtCeLLcclunn-Ctredtt;ttinestarp-14SZ2JCSJ)221v:ld.qcalunn=.ftrnr:,ine&tap=iwn?F3tie
40、i塞jF$.匕?lup=%t卜cclunnT(._ho:,tlFstn(-14622.aluerl2MlEbjtm*C/r*d4匕.Hr#t4rp.t4$掠37,f3RK,valcclunn.ChencLFtlrwsta-Tp*HUiJl?e54Tai,dluc-Corputrrctlunn=C_MQ:*tinstn=14e2Z)TM2453kvdlue=123M2COlumK-irMltt:pTllVtaRpB14B2JJMMlhWVJlcalum-C_NaH*:tlmttaHp*14122371(7*7lu#-EngllEhcclunn-Ho:ttlrcstanl482237136C)7.
41、wUu l”EH3econd选课表:创建:hbase(ndin):060:0createSC1*SC_SnohtfSC_Crc1*SC_5coreQrou(s)tn1,Z70Oseconds。Hbdse:TableHbdse:Table- -SCSC插入数据:-可编辑修改-创建:createCourte1,1C_No,X_Nane1,Credltrow(s)inL269fiseconds,Hbese:T,Hbese:T bleble- -。3030插入数据:-Hba:Table-Coursebsc(rGtn):341:8Arow(s)ine.eisoputCourse*/ceai,C_No,X
42、2Je91,secondsibdr(r;tM2;03ro4(s)ino,enoputCourputCourM?*,cOfil*/C_Kane*,Jldthsecond,cOfil*/C_Kane*,Jldthsecond! !)row(sjtn8.B880putbourse*(ceei/C_credtJEWsecondspurt*orw,raoa1,*c_*oa*1JiKcndi257;d257;dn nDMO)0.E*D0.E*DIMJtXqurwIMJtXqurwr r,(.W5*,(.W5*t t*C_Hme*C_Hmer rEnglishtprrndfEnglishtprrndfbse
43、(nalft)itMit土th0,000Out/CW3fJC1/1*8tnJ笺弓与:,、WcoaieoiceeieeazcM2CBflf“打ctBJhfadietndln)0*createbSCt*SC_$fio(SCCrw,C_StorcHrow(s)tft1+jzooscor4Hbase:TabU5ChbAs(41n)relr0put*5CtcMr/SCSf(o,/26151OrQwtitn白”12,secondshtnte(ratft:wi:eput$caeiSC_(.r*,T2wv6row(s)in6,10S$condic1sc,刈COLUHM+CELLColvnn-XCnv;ttAe
44、lt4Pp-l*37ZD7Z97903.vluc-!?icflttlJBlinr1seelU-lJ91EC2luri-SC_Scirc:tttw=。坪1领2344KT%value-63C00Z5m。;*1402237413049.valueVSWCISC0O33colufnn-scsna:,tOw当t*片118223747%2,jvjLuc,2Jl&ee?colunn-Xeno:vttnctyp.曲222m402853,value.33“血c.DluHn-SC_51Ofe;tlrKlanu*146221015244f/,luus汨trflfMeiu m.53tiiWNMiMF八7s*w
45、,v*lsan;tcBSS口 IgxX。:*tgRtflim彻7V,UMT”M皿。5Cplvnr)-X$CQTC;kfinest*np-14fimtlO9Sftt*vNu一弼介-XSfi:,tknetpp-14ozz.v,Lue-miRC3cellingSC.Cf)4:,line专tkp l3tc66C0lU*rt-SC_S4M,e:ttlMSt*乾p-148723glM号内力心lu*-的BIUKMSC二Sn“:.ttdRpl4822M117W4,valw2B154036rQN(s)in中,。51。$EQnd$同时,请编程完成以下指定功能:(1)createTable(StringtableN
46、ame,Stringfields)创建表,参数 tableName 为表的名称,字符串数组 fields 为存储记录各个域名称的数组。要求当 HBase 已经存在名为 tableName 的表的时候,先删除原有的表,然后再创建新的表。-可编辑修改-pnblxstithcdcjrateTableL&Utfl岂tsbleNAinfl.StrrigOfieldsthrmn10ExpilianumO:TihIr.-nnrtahIrn.-m*=1品:rk*方:,T-rtThlNxm:rfbdnufLnNtExKtblfflMK;)hbas&(ntft):063:0put*SCO。*s)I
47、ne(V”sr*$cfipio(:ib:eiuw技i:ibrSmnsgrHo.mrOetcnptfJCcliuLLnDe-vcuptci=new3?:;ULdiD事口:ptcss.liTableDecJifiornddFQihEKohmtiD在i.adinnicieari?TbLeniTablOHcri-|?ai-1.cluvtlj.(2)addRecord(StringtableName,Stringrow,Stringfields,Stringvalues)向表 tableName、 行 row(用 S_Name 表示)和字符串数组 files 指定的单元格中添加对应的数据 values。
48、其中 fields中每个元素如果对应的列族下还有相应的列限定符的话,用ColumnFamily:column”表示。 例如, 同时向Math、 ComputerScience、 English”三列添加成绩时, 字符串数组 fields为Score:Math”Score;ComputerScience,Score:English”,数组 values 存储这三门课的成绩。publicstaticvoidaddRecoiw3ikiFfro3vl心.COAUILL:i;RjetiJtSznii&rscniiL?r-Table.FrtSzamisr;catilot.RiSllllJlDfl.
49、UFKl().leMllt-llllJl.-.JllLtfLUEX1(bJfciblrciosei.1J饰it化输出p二hL。scitirvoid山二R.clilrresult:-可编辑修改-ibriCe1cdlcdh)ibriCe1cdlcdh)3?中EIETlpnElnfRo科FewStTuigi.OllUtildEFREvfHlIS;.VnTiFitpnitlnfTmieiqnip-rrlntprintlnfcohuiLniFmnuK-FmnfCrI;-Ic*rFinjhtr):S77:ciLcut.cmtinfb、hjure:ncYCntm电Lcll_tjL;LOICLSyTfUL3l
50、Lt.ptll3tlni.XllUf11?%3111或01111410配1显1图收山,”).I I1(4)modifyData(StringtableName,Stringrow,Stringcolumn)修改表 tableName,行 row(可以用学生姓名 S_Name 表示),列 column 指定的单元格的数据。jjutlic般Ei匚vendnuiifvD加就3tri卑taib止NMOU.51011季口;vSlrin甄Eumn鼻tnnpaDtfijraIOExfepftini皿KX口ibkI由,EMiiMkrnEinWtTablkXaLgi仙*)。口做工*口对).Pi#pit=tivP
51、tlestcoll):table.dleledeetejitable.clobefJ.claie()z)3.利用 HBase 和 MapReduce 完成如下任务:假设 HBase 有 2 张表,表的逻辑视图及部分数据如下所示:表逻辑视图及部分数据书名(bookName)价格(price)DatabaseSystemConcept30$ThinkinginJava60$DataMining25$要求:从 HBase 读出?述两张表的数据,对 price”的排序,并将结果存储到 HBase 中。创建表:卜卜.4(1?1n)RArr*ji+口hiwbr,.门七&fwt()MCOndt二,t
52、lbase::TbleboGkhb寻$己Tdln):配5;BputbookP1vaI5$h/bookare;,THikinanJavcflrnwft)An付,艮4+用RpcnnrfhL&-Cr&;n),白“;4ptjI1juvkJ丫.1_2$,.baokhiHE;SyLteriCuiittfpIB。心】tno.ccetsecondspbd&ePpbd&eP iln):M7:putiln):M7:put book,book,1 1val_3A$*/bookNitn?:val_3A$*/bookNitn?:1 11 1*Ddt*Ddt MinlnoMinlno1 1
53、BtnQ.HIJia&ecantf排序:-可编辑修改-pbaseCnetn0scdnbockROWCOLJPW+CELLc&lumc=b&okNafli?:,ti信电stMp二】看厚旧v4lue=DatabaeSystenConceptval365coVumn-baokMafflt:,432236711Wdvalue-DitaHtninqvftl_60StoLurwbookN0M士:,tinestamp-naZ23S6fiti4ZdvalLie-ThinkingInJdVdInJdVdsrowCs)lb.0Z4UsecondK实验4MapReduce编程初级实践编程实现
54、文件合并和去重操作对于两个输入文件,即文件 A 和文件 B,请编写 MapReduce 程序,对两个文件进行合并,并剔除其中重复的内容,得到一个新的输出文件 Co 下面是输入文件和输出文件的一个样例供参考。输入文件 A 的样例如下:20150101x20150102y20150103x20150104y20150105z20150106x输入文件 B 的样例如下:20150101y20150102y20150103x20150104z-可编辑修改-20150105y根据输入文件 A 和 B 合并得到的出文件 C 的样例如下:20150101x20150101y20150102y20150103
55、x20150104y20150104z20150105y20150105z20150106x代码如F:packagecomimportjava.iolOException;importorg.apache.hadoop.Mnf.Corifiguration:importargapache.hadoop.fs.Path;importorg.apachehadoopioText;importargapache.hadoop.mapreduceJob;importorg.apache.hodoop.mapreduce.Mapper:import01rg总pachegdoopjnapeduceRedu
56、ceimportorg.apache.hadoop.mapreduceJib.iput.FilelnpiitF&mat;import01rg总pachahddcx)prndpeduceiboutputFileOiJtputFom或publicclassMerge(publicstaticclassMapextendsMapper(privatestaticTexttext=newText();-可编辑修改-publicvoidmap(ObjectkeyTextvalue.Contextcontext)throwslOException,InterruptedExceptiontext二
57、value;contextwnte(tetRnewTejctf11);)publicstaticclassReduceextendsReducerpublicvoidreduce(Textkeylterablevalues,Contextcontext)throwslOExcption,InterruptedExceptioncontextwrite(key,newText。);)publicstaticvoidniain(Stnngargs)throwsExceptionConfigurationconf=newConfiguration();conf.setffsdefajItFS1,rh
58、dfsJ/localhost:9000);StringQotherArgs=newStringQ(input,outpuT;if(otherArgs.length!=2System.err.printlnfUsage:MergeandduplicateremovalSystem.exit(2);Jobjob=Job.getlnstance(coif,Mergeandduplicateremoval11):job.setJarByClass(Merge.clas5):job.setMapperClass(Map.class);lob.setReducerClass(RediJce.class);
59、jobsetOutputKeyClass(Text.class);?,Jtjob.setOutputVEilueClass(Texi.class);FilelnputFQrmat.addlnputPathiob,newPHth(otheAgs0;FileOutputFsmatsetOutputPthOobinewPath(otherArgs1|);Systemexit(job.wartForConipletior(true)?D:1);)2.编写程序实现对输入文件的排序现在有多个输入文件,每个文件中的每行内容均为一个整数。要求读取所有文件中的整数,进行升序排序后,输出到一个新的文件中,输出的数
60、据格式为每行两个整数,第一个数字为第二个整数的排序位次,第二个整数为原待排列的整数。下面是输入文件和输出文件的一个样例供参考。输入文件 1 的样例如下:33-可编辑修改-371240输入文件 2 的样例如下:41639输入文件 3 的样例如下:14525根据输入文件 1、2 和 3 得到的输出文件如下:11412516-可编辑修改-62573383793910401145packagecom.MergeSort;importjavaioJOException;importorg.apachehadoop.contConfiguration;importorg.apache.hadoopfs.Path;importorg.apachehadoopiolntWritable:importorg和ache.hadoopioText;importorg.apachehadoopmapreduce.Job;importorg.apach&.h3doop-mapreduce.Mapper;importorg.apa
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 水上运输与科技产业的互动发展考核试卷
- 弹射玩具行业渠道变革探讨考核试卷
- 信息系统的云计算与大数据应用考核试卷
- 盐产业国际交流与合作考核试卷
- 印刷品的创意包装设计考核试卷
- 宠物综艺节目与表演秀服务考核试卷
- 电子智能耳机无线连接考核试卷
- 宠物心血管和血液问题解决考核试卷
- 煤炭行业的智能化设备与制造工艺考核试卷
- 病句的修改与辨析-2023年湖南长沙中考语文复习专练(原卷版)
- 2024年山东省淄博市中考道德与法治试卷真题
- GB/T 44723-2024氢燃料内燃机通用技术条件
- 2022年11月软考(高级)网络规划设计师上午真题
- 2024年中远海运物流限公司直属单位招聘高频难、易错点500题模拟试题附带答案详解
- 第1课 课题二《中外节日·中秋节和感恩节的比较》(教案)-2024-2025学年六年级上册综合实践活动浙教版
- 2024年共青团团课考试测试题库及答案
- 能源岗位招聘面试题与参考回答2024年
- 团队协作课件教学课件
- 相对湿度计算公式
- 7.1促进民族团结 (课件) 2024-2025学年九年级道德与法治上册 (统编版)
- 2023-2024学年四年级上册信息技术第一单元第1课《身边的数据》教学设计浙教版2023
评论
0/150
提交评论