色综合图-色综合图片-色综合图片二区150p-色综合图区-玖玖国产精品视频-玖玖香蕉视频

您的位置:首頁技術(shù)文章
文章詳情頁

python多維數(shù)組分位數(shù)的求取方式

瀏覽:33日期:2022-08-04 14:11:54

在python中計算一個多維數(shù)組的任意百分比分位數(shù),只需用np.percentile即可,十分方便

import numpy as npa = [154, 400, 1124, 82, 94, 108]print np.percentile(a,95) # gives the 95th percentile

補(bǔ)充拓展:如何解決hive同時計算多個分位數(shù)的問題

眾所周知,原生hive沒有計算中位數(shù)的函數(shù)(有的平臺會有),只有計算分位數(shù)的函數(shù)percentile

在數(shù)據(jù)量不大的時候,速度尚可。但是數(shù)據(jù)量一上來之后,完全計算不出來。

那么如何解決這個問題呢,我們可以使用 row_number() over()通過兩次排序來解決同時計算多個分位數(shù),速度飛快。

比如我們需要計算mkt_mcc_storeidx表下以mkt_label,mccgroup,month分組,value_mccgroup的分位數(shù)

第一步:利用row_number() over()給value_mccgroup在分組里排序,記錄下排名

python多維數(shù)組分位數(shù)的求取方式

第二步:計算mkt_label,mccgroup,month分組下的數(shù)據(jù)總數(shù)

python多維數(shù)組分位數(shù)的求取方式

第三步:join前兩步的結(jié)果,取rank=你需要計算的分位數(shù)位置,想計算多少個分位數(shù)就計算多少個

python多維數(shù)組分位數(shù)的求取方式

第四步:再排一次序,這次數(shù)據(jù)量就已經(jīng)少了很多了,畢竟每組里面只有幾個數(shù)據(jù),記錄排名

python多維數(shù)組分位數(shù)的求取方式

第五步:得到具體的分位數(shù)

python多維數(shù)組分位數(shù)的求取方式

第六步:行轉(zhuǎn)成列,所有分位數(shù)計算完畢

python多維數(shù)組分位數(shù)的求取方式

后來查看了下SQL代碼的執(zhí)行樹,發(fā)現(xiàn)percentile利用了map來存數(shù)據(jù),怪不得這么耗內(nèi)存,其實(shí)時間久并不是算的時間久,是因?yàn)閮?nèi)存不夠了,系統(tǒng)一直在回收內(nèi)存

python多維數(shù)組分位數(shù)的求取方式

而rank over 僅僅就是個排序而已

python多維數(shù)組分位數(shù)的求取方式

以上這篇python多維數(shù)組分位數(shù)的求取方式就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 成人国产欧美精品一区二区 | 国产美女一区二区 | 国产成人mv在线观看入口视频 | 成人黄色免费网站 | 久久88香港三级台湾三级中文 | 免费看特黄特黄欧美大片 | 9191精品国产免费不久久 | 在线观看视频99 | 久久福利资源国产精品999 | 欧美成人午夜影院 | 67194午夜| 99久久香蕉国产线看观香 | 中文字幕在线成人免费看 | 九九精品国产兔费观看久久 | 国产一区在线观看免费 | 国内自拍网红在线综合 | 性色a v 一区 | 国产一二三区视频 | 美女张开双腿让男人桶视频免费 | 伊人久色| 亚洲国产成人精品91久久久 | 色吊丝在线观看国产 | 特级欧美视频aaaaaa | 亚洲一区中文字幕 | 萌白酱福利视频在线网站 | 亚洲精品一区二区三区网址 | 二区久久国产乱子伦免费精品 | 精品欧美一区二区在线观看欧美熟 | 亚州一级毛片 | 欧美中日韩在线 | 欧美不卡一区 | 亚洲网站一区 | 一本色道久久99一综合 | 成年人免费看 | 91精品国产免费久久久久久青草 | 97久久草草超级碰碰碰 | 一级毛毛片毛片毛片毛片在线看 | 黄a网站| 国产精品99久久免费观看 | 一本久久道久久爱 | 亚洲成人免费网站 |