2013年5月30日 星期四

[hadoop][hive]hive sort by and order by

[hadoop][hive]hive sort by and order by


Order by



  • Toto ordering of query result set

  • All data is passed through a single reducer


Sort by



  • Order the data within each reducer ( local ordering) 

  • Reducer’s output will be sorted


 


 



  1. 使用 order by 在reduce 階段,因為全排序(也就是要整個排序完資料,才能做後續的處理),所以會集中在一台reducer上面做操作。

  2. 使用 sort by 會幫你做 local order 在做merge sort 。效率會比較高。


 


兩個語法使用範例如下:



SELECT s.ymd,s.name,s.price
FROM stocks s
ORDER BY s.ymd ASC ,s.name DESC;


SELECT s.ymd,s.name,s.price
FROM stocks s
SORT BY s.ymd ASC ,s.name DESC;


2013年5月29日 星期三

[python] python OCR

[python] python OCR

temp to write 130529

[武術]kick boxing 後的 思考


這次,又再次參加kick boxing的比賽了。
沉浸一段時間,
好多感觸想要寫下。

除了增加相對的體能訓練外,
還有在連續的組合攻擊,
跟有效的重力打擊。

當然比較重要是積極進取的心,

這次參加,大概只是要證明,打不死而已吧


2013年5月23日 星期四

[hadoop][mapreduce]Hadoop MapReduce Can Transform How You Build Top-Ten Lists | Datastream

Hadoop MapReduce Can Transform How You Build Top-Ten Lists | Datastream
http://www.greenplum.com/blog/topics/hadoop/how-hadoop-mapreduce-can-transform-how-you-build-top-ten-lists


"To find a top ten list with only one MapReduce job, we’re going to set up a tournament in our Hadoop cluster. The tournament is pretty simple:

1. Each mapper finds its local top ten list and sends that list to the reducer.

2. The reducer finds the top ten from the finalists sent from the mappers."

"Running a job like this to compute your top ten list will be far more efficient than the alternative of sorting the data first, then taking the top ten. The amount of data being moved over the network to the reducer in the top ten job here is minuscule in comparison to all of the data in a sort."


雖然是舊文了,但是還是有很多用MapReduce觀念處理資料的tricks


2013年5月21日 星期二

[TWWY]130518 大甲大安 欽習堂 記 / 系出 勤習堂,另館 欽習堂



張木生 大安 埔頭館 陳安腦系 四門
梁其隆(白猴) 大甲社尾館 林朝祥系 七十二目
黃文欽 大安龜殼 吳安林(清火仔)系 倒頭(踏)三角
梁其隆(白猴) 大甲社尾館 林朝祥系 六路尾
梁其隆(白猴) 大甲社尾館 林朝祥系 倒頭(踏)三角
另外示範
張木生 大安 埔頭館 陳安腦系 車拴
張木生 大安 埔頭館 陳安腦系 五字心

員林林炮(老炮師)所傳,系出 勤習堂,另館 欽習堂。
1.比較長肢,開展
2.原本太祖全味道更濃:動作比較明快
3.極戰或七十二目,乃該派拳技之集錦,似為老炮師個人得意且具心得之招式歷編,類似此派之摘要。
4.呈現老炮師個人擅長技藝,比如雙插手,割琴等。
5.動作古樸,觀之可喜。

別子為宗

2013年5月16日 星期四

[zz]人生不能等的6件事 職涯顧問部落格 職涯顧問部落格

人生不能等的6件事 職涯顧問部落格 職涯顧問部落格
http://blog.career.com.tw/chairman/default_content.aspx?na_id=854&na_toolid=401


人生不能等的6件事 職涯顧問部落格

"人生就如南柯一夢,很多事情等不得,必須及時把握。西藏有些大師在晚上就寢前,會先將杯子倒空,杯口朝下收好,因為他們深知無常隨時可能到來,如果明天沒有醒來,杯子就用不著了。"

這一等可能就是下輩子了

[git]取消 git add 之後 的 file / remove add file(stage) to unstage


常常有時候我們在使用git add 後,並不想要真的在這次commit提交這幾個file。
在這個 status內,我們可以使用 git rm --cache ... 去unstage


$ git status
# On branch master
#
# Initial commit
#
# Changes to be committed:
# (use "git rm --cached ..." to unstage)
#
# new file: .gitignore
# new file: alsox/alsoxmapper1.py
# new file: alsox/alsoxmapper2.py
# new file: alsox/alsoxreduce1.py
# new file: alsox/alsoxreduce2.py
# new file: alsox/gendata.py
# new file: alsox/mapper.py
# new file: alsox/mapper2.py
# new file: alsox/mapper2_1.py
# new file: alsox/memo
# new file: alsox/pdata1
# new file: alsox/reduce.py
# new file: alsox/reduce2.py
# new file: alsox/reduce2_1.py
# new file: alsox/reduce_index.py
# new file: alsox/staget215in
# new file: alsox/staget2in
# new file: alsox/tmp
#
# Untracked files:
# (use "git add ..." to include in what will be committed)
#
# mrtest/


------

$ git rm --cache `git status | grep "new file" | grep "alsox" | awk '{print $4}'`
rm 'alsox/alsoxmapper1.py'
rm 'alsox/alsoxmapper2.py'
rm 'alsox/alsoxreduce1.py'
rm 'alsox/alsoxreduce2.py'
rm 'alsox/gendata.py'
rm 'alsox/mapper.py'
rm 'alsox/mapper2.py'
rm 'alsox/mapper2_1.py'
rm 'alsox/memo'
rm 'alsox/pdata1'
rm 'alsox/reduce.py'
rm 'alsox/reduce2.py'
rm 'alsox/reduce2_1.py'
rm 'alsox/reduce_index.py'
rm 'alsox/staget215in'
rm 'alsox/staget2in'
rm 'alsox/tmp'

2013年5月15日 星期三

[linux][ubuntu] remove icon from panel


在上方panel icon上按 windowskey+alt就會出現 remove

How to remove and move icons on the panels of Ubuntu 12.04 in Gnome Classic ~ Linux and Life
http://www.linuxandlife.com/2012/05/how-to-remove-and-move-icons-on-panels.html

2013年5月11日 星期六

[fors]我是真的不懂?!


如果不是我的感知錯誤,
身為朋友,
很多要求都是過分的,
尤其是一直被強調,

承認我生活一直活在duck typing之中,
很多事情,不會說不會做,
但是事實就是那樣。

每一次的切換,都是為了不要讓對話太過於嚴肅,
甚至你問我說,為什麼不好好聊一下呢?

我怕嚇到你阿~~

或許之前一直充滿了,哼哼哈哈的垃圾話,
但是始終保有那一開始的承諾,

不會輕易開始,也不會存在著欺騙。

引戰嗎?或許,有點點的過分。

但是,我也在試著多了解一點。

我說,當別人給我負面回饋的時候,
通常我也越來越會保持距離。
不想騙你,
所以我這樣說。


-------------

下一次,你找我好好說事情的時候,
我想,
我會變成另外一個樣子嗎?

可能很久很久以後了。

--------------

不得不再說,身為 "朋友" ,
我會記得那一份美好,
我最近改變了什麼嗎,
我想,是你讓我增添了幾筆不一樣的印記吧。

---------------

"朋友" 上面應該都是小劇場,
已經好久都精疲歷盡的睡著了。
不過,我會跟你說,起碼我是開心的當下,

你覺得我是真不懂還是假不懂,還是試探性的如此呢?

哈,
或許之後的我,會來回答這個問題。

"我們有限的觀點,期望和恐懼,變成我們衡量人生的工具,當事情不和己意時,就變成我們的難題。" Franklin

---------------

希望今天以後您就可以恢復平靜,
好好的生活。
當然包跨早早的睡覺,悠閒的晚上。




[life]Next~~~


從上次某PoC精實階段結束後,邁向另外一個方向了。

歸建後回本來配置的team上,
其實心情是充滿緊張與期待,
深怕自己還沒有準備好,但是,我想這就是每天每天的意義所在吧。

要是沒上兩個禮拜這麼精實,我還以為我不會寫code了。哈~

再來,面對時程與training課程,
是要懂個自己調配時間了,

面對著期望,應該要有著更好的表現。



2013年5月7日 星期二

[fors]130507 夜

克制自己 不要在浪費時間了
根本上的問題
不要讓自己這樣幼稚

成熟一點面對這世界
真的認真你就輸了

真的克制自己
不要再理了

一次又一次的會欺騙自己,
讓自己失準了。

今天晚上的風很大,天氣很涼,跟心理一樣。

從那時候到現在,還是選擇用同樣的方式,
也就是離開,
今天才漫漫看清楚,原來,自己還是同以前。

那樣的脆弱。


每天要上演同樣的戲碼,我累了。

------
130508
多年後,我還是存在著比較,對著那過去有一份愧咎,抑或是,另外一個選擇。
我不爽,你的比較,其實對我自己何常也不是。

原來,還是因為這樣的事情陷入泥沼。

說出來的不裡,應該是賭氣吧。

130510 (五

果然,是自己習慣了。
人生不就有很多事情是徒勞無功的嗎?



2013年5月6日 星期一

[fors]next day


從聽你說完,就開始百感交集,
存在的是比較...,這種覺得好差...
很多舉動,可能也是會發生了,那我或許...就會引以為戒了。


我說,好久沒有這樣的感覺了。
自己以為冷靜的,卻又不由得的從心裡發慌。

應該說,太自以為的錯覺,讓我自己陷在裡面了。
本來就分屬兩個世界了...


2013年5月1日 星期三

[book]異數

p21
巴恩斯里認為選手年齡分布偏斜的原因主要有三:也就是挑選,能力分組及經驗差異。如果你先挑選出資質優異的孩子,給這些菁英的孩子更好的訓練和學習經驗,最後他們的表現就會更加突出。

所謂的自我實現預言,是美國社會學家莫頓提出來的,指一種預期的想法最初本來是錯誤的,之後卻促成新的行為,使錯誤的想法成真。加拿大曲棍球教練,每年在挑選九歲和十歲的孩子加入球隊時,只是挑選年齡最大的,最後這些被挑選出來的孩子,果然成為最優秀的。正如莫頓所言:『自我實現預言有弄假成真的特性。這樣的預言還會以實際發生的事件作為例證,證明當初想的沒錯。』

[mac]change hostname in mac



root@tw-pcliao1[/etc]{21:37}
# scutil --set HostName pcmac