Profile 和 cProfile
在 Python 標(biāo)準(zhǔn)庫里面有兩個(gè)模塊可以用來做性能測試。
1. 一個(gè)是 Profile,它是一個(gè)純 Python 的實(shí)現(xiàn),所以會(huì)慢一些,如果你需要對模塊進(jìn)行拓展,那么這個(gè)模塊比較合適。
2. 第二個(gè)是 cProfile,從名字就可以看出這是一個(gè) C 語言的實(shí)現(xiàn)版,官方推薦在大多數(shù)情況下使用。
這兩者的接口和數(shù)據(jù)的輸出格式是完全一樣的,你可以在這兩者之間自由的切換,所以下面我們僅以 cProfile 為例進(jìn)行介紹。
使用 cProfile 進(jìn)行性能測試
在 cProfile 中,進(jìn)行性能測試十分簡單,只需調(diào)用 run 方法,并將需要測試的函數(shù)及參數(shù)傳遞給它即可,下面我們對fib(n) 進(jìn)行性能測試。
import cProfile def fib(n): if n == 0: return 0 if n == 1: return 1 return fib(n-1) + fib(n-2) if __name__ == '__main__': cProfile.run('fib(30)')
性能測試的結(jié)果如下圖
可以看到一共進(jìn)行了 2692539 次函數(shù)調(diào)用,共耗時(shí) 0.815 秒。下面每一行對應(yīng)于一個(gè)函數(shù)的調(diào)用情況,其中:
1. ncalls, 函數(shù)總共調(diào)用次數(shù);
2. tottime, 這個(gè)函數(shù)調(diào)用總共花費(fèi)時(shí)間;
3. percall, 每個(gè)調(diào)用的平均花費(fèi)時(shí)間;
4. cumtime, 總共累計(jì)花費(fèi)時(shí)間;
5. percall, 每個(gè)調(diào)用的平均累計(jì)時(shí)間;
6. filename:lineno(function), 對應(yīng)函數(shù)信息。
所以從圖中可以明顯看到幾乎的耗時(shí)都在fib上,而且函數(shù)調(diào)用數(shù)過多,這主要是因?yàn)楹瘮?shù)是遞歸調(diào)用的,并且會(huì)產(chǎn)生很多冗余分支,所以程序需要進(jìn)行優(yōu)化。有兩種方法進(jìn)行改進(jìn),一是緩存fib(n)的信息,不需要每次都進(jìn)行計(jì)算;二是將程序改為迭代式。
而對函數(shù)值進(jìn)行緩存在 Python 3 里有一個(gè)簡單的裝飾器叫做lru_cache,可以自動(dòng)的幫你緩存函數(shù)的值,而不需要自己手動(dòng)存儲(chǔ)。
import functools @functools.lru_cache(maxsize=None) def fib(n): if n == 0: return 0 if n == 1: return 1 return fib(n-1) + fib(n-2)
運(yùn)行結(jié)果如下:
可以看到,fib 函數(shù)只調(diào)用了 31 次,幾乎所有額外的調(diào)用都命中了緩存,遠(yuǎn)遠(yuǎn)小于前面的調(diào)用次數(shù),運(yùn)行時(shí)間也得到了相當(dāng)明顯的提升。同時(shí)使用下面的迭代版程序也運(yùn)行得非常快,這里就不再展開。
def fib(n): prev, cur = 0, 1 if n == 0: return prev if n == 1: return cur count = 1 while count < n: count += 1 prev, cur = cur, prev + cur return cur
除了前面提到的 run 方法外,還有一個(gè)叫做 runctx 的方法,允許提供一些上下文參數(shù)。例如前面的 cProfile.run('fib(30)') 可以改為 cProfile.runctx('fib', globals(), {'n':30}) 最后的運(yùn)行結(jié)果是相同的。
最后,除了直接打印到命令行的方式,run 和 runctx 可以通過第二個(gè)參數(shù)傳遞文件名的方式將輸出結(jié)果寫入文件。
使用 pstats 對顯示進(jìn)行控制
cProfile 雖然可以對程序進(jìn)行簡單的性能測試,但是當(dāng)程序過大,調(diào)用函數(shù)很多的時(shí)候,就需要一些對測試結(jié)果進(jìn)行過濾和排序的工具了,而 pstats 就是這樣的一個(gè)工具。
# fib_profile.py import cProfile import pstats for i in range(5): cProfile.run('fib(1000)', 'fib_profile_{}'.format(i)) stats = pstats.Stats('fib_profile_0') for i in range(1, 5): stats.add('fib_profile_{}'.format(i)) stats.strip_dirs() stats.sort_stats('cumulative') stats.print_stats('fib')
上面的程序首先寫入了多個(gè)測試結(jié)果,然后初始化了 stats,可以通過 stats 的 add 方法添加新的文件,pstats 會(huì)自動(dòng)的將結(jié)果聚合起來;然后 strip_dirs 將會(huì)移除文件名前面的路徑,只保留文件名;sort_stats 是對輸出結(jié)果進(jìn)行排序,也就是在前面所說的那幾行里進(jìn)行選擇(具體的可參閱官方文檔);最后的 print_stats 對結(jié)果進(jìn)行輸出,在這面可以對行進(jìn)行過濾,比如上面的程序就只輸出了包含 fib 的行;實(shí)際輸出結(jié)果如下。
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號(hào)聯(lián)系: 360901061
您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
