国产一区二区精品-国产一区二区精品久-国产一区二区精品久久-国产一区二区精品久久91-免费毛片播放-免费毛片基地

千鋒教育-做有情懷、有良心、有品質的職業教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  應聘面試  >  大數據面試題  > Flume結構攔截器

Flume結構攔截器

來源:千鋒教育
發布人:wjy
時間: 2022-09-01 15:59:41 1662019181

所有events,增加頭,類似json格式里的"headers":{" key":" value"} 時間戳(頭部插入時間戳)、主機(頭部插入主機名和IP)、靜態(頭部插入指定KV)、正則過濾(留下符合條件的)、自定義 攔截器作用   1)ETL攔截器:輕度清洗,過濾出Json格式不完整的數據   2)時間攔截器:提取日志時間作為分區的依據,避免零點漂移問題 自定義攔截器步驟   1)實現Interceptor   2)重寫方法     (1)initialize初始化方法     (2)public Event intercept(Event event) 處理單個Event     (3)public List intercept(List events) 處理多個Event,在這個方法中調用Event intercept(Event event)     (4)close方法   3)靜態內部類,實現Interceptor.Builder   4)打包,上傳至flume/lib目錄下   5)在配置文件中關聯:全類名 + $builder 攔截器可以不用嗎?   可以不用,在hive的dwd層或sparkStream中處理即可,也可以用,但會影響性能,不推薦用在實時性高的場景

Flume結構攔截器

tags:
聲明:本站稿件版權均屬千鋒教育所有,未經許可不得擅自轉載。
10年以上業內強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT