轉帖|其它|編輯:郝浩|2011-08-24 14:23:05.000|閱讀 592 次
概述:在Hadoop中執行的任務有時候需要把多個Map/Reduce作業連接到一起,這樣才能夠達到目的。[1]在Hadoop生態圈中,有一種相對比較新的組件叫做Oozie[2],它讓我們可以把多個Map/Reduce作業組合到一個邏輯工作單元中,從而完成更大型的任務。本文中,我們會向你介紹 Oozie以及使用它的一些方式。
# 界面/圖表報表/文檔/IDE等千款熱門軟控件火熱銷售中 >>
在Hadoop中執行的任務有時候需要把多個Map/Reduce作業連接到一起,這樣才能夠達到目的。[1]在Hadoop生態圈中,有一種相對比較新的組件叫做Oozie[2],它讓我們可以把多個Map/Reduce作業組合到一個邏輯工作單元中,從而完成更大型的任務。本文中,我們會向你介紹Oozie以及使用它的一些方式。
什么是Oozie?
Oozie是一種Java Web應用程序,它運行在Java servlet容器——即Tomcat——中,并使用數據庫來存儲以下內容:
●工作流定義
●當前運行的工作流實例,包括實例的狀態和變量
Oozie工作流是放置在控制依賴DAG(有向無環圖 Direct Acyclic Graph)中的一組動作(例如,Hadoop的Map/Reduce作業、Pig作業等),其中指定了動作執行的順序。我們會使用hPDL(一種XML流程定義語言)來描述這個圖。
hPDL是一種很簡潔的語言,只會使用少數流程控制和動作節點。控制節點會定義執行的流程,并包含工作流的起點和終點(start、end和fail節點)以及控制工作流執行路徑的機制(decision、fork和join節點)。動作節點是一些機制,通過它們工作流會觸發執行計算或者處理任務。Oozie為以下類型的動作提供支持: Hadoop map-reduce、Hadoop文件系統、Pig、Java和Oozie的子工作流(SSH動作已經從Oozie schema 0.2之后的版本中移除了)。
所有由動作節點觸發的計算和處理任務都不在Oozie之中——它們是由Hadoop的Map/Reduce框架執行的。這種方法讓Oozie可以支持現存的Hadoop用于負載平衡、災難恢復的機制。這些任務主要是異步執行的(只有文件系統動作例外,它是同步處理的)。這意味著對于大多數工作流動作觸發的計算或處理任務的類型來說,在工作流操作轉換到工作流的下一個節點之前都需要等待,直到計算或處理任務結束了之后才能夠繼續。Oozie可以通過兩種不同的方式來檢測計算或處理任務是否完成,也就是回調和輪詢。當Oozie啟動了計算或處理任務的時候,它會為任務提供唯一的回調URL,然后任務會在完成的時候發送通知給特定的URL。在任務無法觸發回調URL的情況下(可能是因為任何原因,比方說網絡閃斷),或者當任務的類型無法在完成時觸發回調URL的時候,Oozie有一種機制,可以對計算或處理任務進行輪詢,從而保證能夠完成任務。
Oozie工作流可以參數化(在工作流定義中使用像${inputDir}之類的變量)。在提交工作流操作的時候,我們必須提供參數值。如果經過合適地參數化(比方說,使用不同的輸出目錄),那么多個同樣的工作流操作可以并發。
一些工作流是根據需要觸發的,但是大多數情況下,我們有必要基于一定的時間段和(或)數據可用性和(或)外部事件來運行它們。Oozie協調系統(Coordinator system)讓用戶可以基于這些參數來定義工作流執行計劃。Oozie協調程序讓我們可以以謂詞的方式對工作流執行觸發器進行建模,那可以指向數據、事件和(或)外部事件。工作流作業會在謂詞得到滿足的時候啟動。
經常我們還需要連接定時運行、但時間間隔不同的工作流操作。多個隨后運行的工作流的輸出會成為下一個工作流的輸入。把這些工作流連接在一起,會讓系統把它作為數據應用的管道來引用。Oozie協調程序支持創建這樣的數據應用管道。
安裝Oozie
我們可以把Oozie安裝在現存的Hadoop系統中,安裝方式包括tarball、RPM和Debian包等。我們的Hadoop部署是Cloudera的CDH3,其中已經包含了Oozie。因此,我們只是使用yum把它拉下來,然后在edge節點[1]上執行安裝操作。在Oozie的發布包中有兩個組件——Oozie-client和Oozie-server。根據簇集的規模,你可以讓這兩個組件安裝在同一臺edge服務器上,也可能安裝在不同的計算機上。Oozie服務器中包含了用于觸發和控制作業的組件,而客戶端中包含了讓用戶可以觸發Oozie操作并與Oozie服務器通信的組件。
想要了解更多關于安裝過程的信息,請使用Cloudera發布包,并訪問Cloudera站點[2]。
本站文章除注明轉載外,均為本站原創或翻譯。歡迎任何形式的轉載,但請務必注明出處、不得修改原文相關鏈接,如果存在內容上的異議請郵件反饋至chenjj@fc6vip.cn
文章轉載自:網絡轉載