色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Python性能優(yōu)化的20條招數(shù)

馬哥Linux運維 ? 來源:未知 ? 作者:李倩 ? 2018-05-01 17:38 ? 次閱讀

優(yōu)化算法時間復(fù)雜度

算法的時間復(fù)雜度對程序的執(zhí)行效率影響最大,在 Python 中可以通過選擇合適的數(shù)據(jù)結(jié)構(gòu)來優(yōu)化時間復(fù)雜度,如 list 和 set 查找某一個元素的時間復(fù)雜度分別是O(n)和O(1)。不同的場景有不同的優(yōu)化方式,總得來說,一般有分治,分支界限,貪心,動態(tài)規(guī)劃等思想。

減少冗余數(shù)據(jù)

如用上三角或下三角的方式去保存一個大的對稱矩陣。在0元素占大多數(shù)的矩陣里使用稀疏矩陣表示。

合理使用 copy 與 deepcopy

對于 dict 和 list 等數(shù)據(jù)結(jié)構(gòu)的對象,直接賦值使用的是引用的方式。而有些情況下需要復(fù)制整個對象,這時可以使用 copy 包里的 copy 和 deepcopy,這兩個函數(shù)的不同之處在于后者是遞歸復(fù)制的。效率也不一樣:(以下程序在 ipython 中運行)

import copya = range(100000)%timeit -n 10 copy.copy(a) # 運行10次 copy.copy(a)%timeit -n 10 copy.deepcopy(a)10 loops, best of 3: 1.55 ms per loop10 loops, best of 3: 151 ms per loop

timeit 后面的-n表示運行的次數(shù),后兩行對應(yīng)的是兩個 timeit 的輸出,下同。由此可見后者慢一個數(shù)量級。

使用 dict 或 set 查找元素

python dict 和 set 都是使用 hash 表來實現(xiàn)(類似c++11標準庫中unordered_map),查找元素的時間復(fù)雜度是O(1)

a = range(1000)s = set(a)d = dict((i,1) for i in a)%timeit -n 10000 100 in d%timeit -n 10000 100 in s10000 loops, best of 3: 43.5 ns per loop10000 loops, best of 3: 49.6 ns per loop

dict 的效率略高(占用的空間也多一些)。

合理使用生成器(generator)和 yield

%timeit -n 100 a = (i for i in range(100000))%timeit -n 100 b = [i for i in range(100000)]100 loops, best of 3: 1.54 ms per loop100 loops, best of 3: 4.56 ms per loop

使用()得到的是一個 generator 對象,所需要的內(nèi)存空間與列表的大小無關(guān),所以效率會高一些。在具體應(yīng)用上,比如 set(i for i in range(100000))會比 set([i for i in range(100000)])快。

但是對于需要循環(huán)遍歷的情況:

%timeit -n 10 for x in (i for i in range(100000)): pass%timeit -n 10 for x in [i for i in range(100000)]: pass10 loops, best of 3: 6.51 ms per loop10 loops, best of 3: 5.54 ms per loop

后者的效率反而更高,但是如果循環(huán)里有 break,用 generator 的好處是顯而易見的。yield 也是用于創(chuàng)建 generator:

def yield_func(ls): for i in ls: yield i+1def not_yield_func(ls): return [i+1 for i in ls]ls = range(1000000)%timeit -n 10 for i in yield_func(ls):pass%timeit -n 10 for i in not_yield_func(ls):pass10 loops, best of 3: 63.8 ms per loop10 loops, best of 3: 62.9 ms per loop

對于內(nèi)存不是非常大的 list,可以直接返回一個 list,但是可讀性 yield 更佳(人個喜好)。

python2.x 內(nèi)置 generator 功能的有 xrange 函數(shù)、itertools 包等。

優(yōu)化循環(huán)

循環(huán)之外能做的事不要放在循環(huán)內(nèi),比如下面的優(yōu)化可以快一倍:

a = range(10000)size_a = len(a)%timeit -n 1000 for i in a: k = len(a)%timeit -n 1000 for i in a: k = size_a1000 loops, best of 3: 569 μs per loop1000 loops, best of 3: 256 μs per loop

優(yōu)化包含多個判斷表達式的順序

對于 and,應(yīng)該把滿足條件少的放在前面,對于 or,把滿足條件多的放在前面。如:

a = range(2000) %timeit -n 100 [i for i in a if 10 < i < 20 or 1000 < i < 2000]%timeit -n 100 [i for i in a if 1000 < i < 2000 or 100 < i < 20] ? ? %timeit -n 100 [i for i in a if i % 2 == 0 and i > 1900]%timeit -n 100 [i for i in a if i > 1900 and i % 2 == 0]100 loops, best of 3: 287 μs per loop100 loops, best of 3: 214 μs per loop100 loops, best of 3: 128 μs per loop100 loops, best of 3: 56.1 μs per loop

使用 join 合并迭代器中的字符串

In [1]: %%timeit ...: s = '' ...: for i in a: ...: s += i ...:10000 loops, best of 3: 59.8 μs per loopIn [2]: %%timeits = ''.join(a) ...:100000 loops, best of 3: 11.8 μs per loop

join 對于累加的方式,有大約5倍的提升。

選擇合適的格式化字符方式

s1, s2 = 'ax', 'bx'%timeit -n 100000 'abc%s%s' % (s1, s2)%timeit -n 100000 'abc{0}{1}'.format(s1, s2)%timeit -n 100000 'abc' + s1 + s2100000 loops, best of 3: 183 ns per loop100000 loops, best of 3: 169 ns per loop100000 loops, best of 3: 103 ns per loop

三種情況中,%的方式是最慢的,但是三者的差距并不大(都非常快)。(個人覺得%的可讀性最好)

不借助中間變量交換兩個變量的值

In [3]: %%timeit -n 10000 a,b=1,2 ....: c=a;a=b;b=c; ....:10000 loops, best of 3: 172 ns per loopIn [4]: %%timeit -n 10000a,b=1,2a,b=b,a ....:10000 loops, best of 3: 86 ns per loop

使用a,b=b,a而不是c=a;a=b;b=c;來交換a,b的值,可以快1倍以上。

使用 if is

a = range(10000)%timeit -n 100 [i for i in a if i == True]%timeit -n 100 [i for i in a if i is True]100 loops, best of 3: 531 μs per loop100 loops, best of 3: 362 μs per loop

使用if is True比if == True將近快一倍。

使用級聯(lián)比較x < y < z

x, y, z = 1,2,3%timeit -n 1000000 if x < y < z:pass%timeit -n 1000000 if x < y and y < z:pass1000000 loops, best of 3: 101 ns per loop1000000 loops, best of 3: 121 ns per loop

x < y < z效率略高,而且可讀性更好。

while 1比while True更快

def while_1(): n = 100000 while 1: n -= 1 if n <= 0: breakdef while_true(): ? ?n = 100000 ? ?while True: ? ? ? ?n -= 1 ? ? ? ?if n <= 0: break ? ?m, n = 1000000, 1000000 %timeit -n 100 while_1()%timeit -n 100 while_true()100 loops, best of 3: 3.69 ms per loop100 loops, best of 3: 5.61 ms per loop

while 1 比 while true 快很多,原因是在 python2.x 中,True 是一個全局變量,而非關(guān)鍵字。

使用**而不是 pow

%timeit -n 10000 c = pow(2,20)%timeit -n 10000 c = 2**2010000 loops, best of 3: 284 ns per loop10000 loops, best of 3: 16.9 ns per loop

**就是快10倍以上!

使用 cProfile, cStringIO 和 cPickle 等用c實現(xiàn)相同功能(分別對應(yīng)profile, StringIO, pickle)的包

import cPickleimport picklea = range(10000)%timeit -n 100 x = cPickle.dumps(a)%timeit -n 100 x = pickle.dumps(a)100 loops, best of 3: 1.58 ms per loop100 loops, best of 3: 17 ms per loop

由c實現(xiàn)的包,速度快10倍以上!

使用最佳的反序列化方式

下面比較了 eval, cPickle, json 方式三種對相應(yīng)字符串反序列化的效率:

import jsonimport cPicklea = range(10000)s1 = str(a)s2 = cPickle.dumps(a)s3 = json.dumps(a)%timeit -n 100 x = eval(s1)%timeit -n 100 x = cPickle.loads(s2)%timeit -n 100 x = json.loads(s3)100 loops, best of 3: 16.8 ms per loop100 loops, best of 3: 2.02 ms per loop100 loops, best of 3: 798 μs per loop

可見 json 比 cPickle 快近3倍,比 eval 快20多倍。

使用C擴展(Extension)

目前主要有 CPython(python最常見的實現(xiàn)的方式)原生API, ctypes,Cython,cffi三種方式,它們的作用是使得 Python 程序可以調(diào)用由C編譯成的動態(tài)鏈接庫,其特點分別是:

CPython 原生 API: 通過引入 Python.h 頭文件,對應(yīng)的C程序中可以直接使用Python 的數(shù)據(jù)結(jié)構(gòu)。實現(xiàn)過程相對繁瑣,但是有比較大的適用范圍。

ctypes: 通常用于封裝(wrap)C程序,讓純 Python 程序調(diào)用動態(tài)鏈接庫(Windows 中的 dll 或 Unix 中的 so 文件)中的函數(shù)。如果想要在 python 中使用已經(jīng)有C類庫,使用 ctypes 是很好的選擇,有一些基準測試下,python2+ctypes 是性能最好的方式。

Cython: Cython 是 CPython 的超集,用于簡化編寫C擴展的過程。Cython 的優(yōu)點是語法簡潔,可以很好地兼容 numpy 等包含大量C擴展的庫。Cython 的使得場景一般是針對項目中某個算法或過程的優(yōu)化。在某些測試中,可以有幾百倍的性能提升。

cffi: cffi 的就是 ctypes 在 pypy(詳見下文)中的實現(xiàn),同進也兼容 CPython。cffi提供了在 python 使用C類庫的方式,可以直接在 python 代碼中編寫C代碼,同時支持鏈接到已有的C類庫。

使用這些優(yōu)化方式一般是針對已有項目性能瓶頸模塊的優(yōu)化,可以在少量改動原有項目的情況下大幅度地提高整個程序的運行效率。

并行編程

因為 GIL 的存在,Python 很難充分利用多核 CPU 的優(yōu)勢。但是,可以通過內(nèi)置的模塊 multiprocessing 實現(xiàn)下面幾種并行模式:

多進程:對于 CPU 密集型的程序,可以使用 multiprocessing 的 Process,Pool 等封裝好的類,通過多進程的方式實現(xiàn)并行計算。但是因為進程中的通信成本比較大,對于進程之間需要大量數(shù)據(jù)交互的程序效率未必有大的提高。

多線程:對于 IO 密集型的程序,multiprocessing.dummy 模塊使用 multiprocessing 的接口封裝 threading,使得多線程編程也變得非常輕松(比如可以使用 Pool 的 map 接口,簡潔高效)。

分布式:multiprocessing 中的 Managers 類提供了可以在不同進程之共享數(shù)據(jù)的方式,可以在此基礎(chǔ)上開發(fā)出分布式的程序。

不同的業(yè)務(wù)場景可以選擇其中的一種或幾種的組合實現(xiàn)程序性能的優(yōu)化。

終級大殺器:PyPy

PyPy 是用 RPython(CPython 的子集)實現(xiàn)的 Python,根據(jù)官網(wǎng)的基準測試數(shù)據(jù),它比 CPython 實現(xiàn)的 Python 要快6倍以上??斓脑蚴鞘褂昧?Just-in-Time(JIT)編譯器,即動態(tài)編譯器,與靜態(tài)編譯器(如gcc,javac等)不同,它是利用程序運行的過程的數(shù)據(jù)進行優(yōu)化。由于歷史原因,目前 pypy 中還保留著 GIL,不過正在進行的 STM 項目試圖將 PyPy 變成沒有 GIL 的 Python。

如果 python 程序中含有C擴展(非cffi的方式),JIT 的優(yōu)化效果會大打折扣,甚至比 CPython 慢(比 Numpy)。所以在 PyPy 中最好用純 Python 或使用 cffi 擴展。

隨著 STM,Numpy 等項目的完善,相信 PyPy 將會替代 CPython。

使用性能分析工具

除了上面在 ipython 使用到的 timeit 模塊,還有 cProfile。cProfile 的使用方式也非常簡單:python -m cProfile filename.py,filename.py是要運行程序的文件名,可以在標準輸出中看到每一個函數(shù)被調(diào)用的次數(shù)和運行的時間,從而找到程序的性能瓶頸,然后可以有針對性地優(yōu)化。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 冗余
    +關(guān)注

    關(guān)注

    1

    文章

    111

    瀏覽量

    20238
  • 編程
    +關(guān)注

    關(guān)注

    88

    文章

    3621

    瀏覽量

    93785
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4797

    瀏覽量

    84776

原文標題:Python 性能優(yōu)化的20條招數(shù)

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    分享50經(jīng)典的Python一行代碼

    今天浩道跟大家分享python學(xué)習(xí)過程中非常經(jīng)典的50一行代碼,讓大家體驗它簡潔而功能強大的特點。同時給大家分享號主收集到的所有關(guān)于python的電子書籍,所有電子書以網(wǎng)盤打包,免費分享給大家學(xué)習(xí)!福利在文末喔~
    發(fā)表于 08-16 15:00 ?1054次閱讀

    使用Rust優(yōu)化Python性能

    在數(shù)據(jù)分析領(lǐng)域Python無疑是最流行的編程語言,但是Python有一個硬傷就是作為一個編譯語言在性能上有些微的欠缺。而同樣最流行的語言Rust則在性能方面表現(xiàn)優(yōu)秀。本文我們一起學(xué)習(xí)一
    的頭像 發(fā)表于 11-01 15:59 ?928次閱讀
    使用Rust<b class='flag-5'>優(yōu)化</b><b class='flag-5'>Python</b><b class='flag-5'>性能</b>

    新手Python學(xué)習(xí)該學(xué)Python2還是Python3

    2與Python3到底有何區(qū)別呢?1.性能Py3.0運行 pystone benchmark的速度比Py2.5慢30%。Guido認為Py3.0有極大的優(yōu)化空間,在字符串和整形操作上可以取得很好的
    發(fā)表于 04-17 16:11

    成都-急招數(shù)字驗證/Leader:

    成都-急招數(shù)字驗證/Leader:崗位一(學(xué)習(xí)平臺大):需要無線通信類驗證崗位,團隊芯片驗證大牛多(大企業(yè)10-20多年經(jīng)驗),學(xué)習(xí)和進步空間大,薪資范圍40-50W;崗位二(晉升平臺大):需要數(shù)字
    發(fā)表于 09-29 10:56

    linux網(wǎng)絡(luò)發(fā)包性能優(yōu)化方法

    對于網(wǎng)絡(luò)的行為,可以簡單劃分為 3 路徑:1) 發(fā)送路徑,2) 轉(zhuǎn)發(fā)路徑,3) 接收路徑,而網(wǎng)絡(luò)性能優(yōu)化則可基于這 3 路徑來考慮。
    發(fā)表于 07-16 06:05

    AN0004—AT32 性能優(yōu)化

    本帖最后由 貪玩 于 2022-2-16 21:42 編輯 AN0004—AT32 性能優(yōu)化這篇應(yīng)用筆記描述了如何通過軟件方法提高AT32的運行效能。AT32 性能優(yōu)化概述
    發(fā)表于 08-15 14:38

    內(nèi)存配置優(yōu)化SQL Server服務(wù)器性能

    內(nèi)存配置優(yōu)化SQL Server服務(wù)器性能  Microsoft SQL Server 2000 的 內(nèi)存管理組件消除了對 SQL Server 可用的內(nèi)存進行手工管理的需要。SQL Serv
    發(fā)表于 01-11 11:00 ?1066次閱讀

    Python性能優(yōu)化

    Python性能優(yōu)化20建議2016-07-05 17:38 1、優(yōu)化算法時間復(fù)雜度 算法的
    發(fā)表于 10-10 10:31 ?0次下載

    Python應(yīng)用與優(yōu)化所必備的6個基本庫

    無論你是想快速入手Python還是想為Python應(yīng)用程序構(gòu)建本地UI,亦或者對Python代碼進行優(yōu)化,本文列舉的6個庫,都有可能會幫到你。 由于具有易于使用的優(yōu)勢,
    發(fā)表于 11-15 11:40 ?2741次閱讀

    python性能之服務(wù)優(yōu)化的方法解析

    怎樣發(fā)揮Python語言的最高性能?
    的頭像 發(fā)表于 12-31 01:04 ?3604次閱讀
    <b class='flag-5'>python</b><b class='flag-5'>性能</b>之服務(wù)<b class='flag-5'>優(yōu)化</b>的方法解析

    使用英特爾MKL提升Python性能

    滿足Intel?Distributionfor Python *,這是一種易于安裝,優(yōu)化Python發(fā)行版,可幫助您優(yōu)化應(yīng)用程序的性能
    的頭像 發(fā)表于 11-09 07:00 ?5779次閱讀

    Python 3.8.1有什么新功能和優(yōu)化

    距離 Python 3.8.1 rc1發(fā)布沒多久的時間,目前,Python 3.8.1 也已正式發(fā)布。Python 3.8.1是Python 3.8的第一個維護版本,
    的頭像 發(fā)表于 12-23 10:56 ?3313次閱讀

    52SQL語句性能優(yōu)化策略

    本文會提到52SQL語句性能優(yōu)化策略。 ? 1、對查詢進行優(yōu)化,應(yīng)盡量避免全表掃描,首先應(yīng)考慮在where及order by涉及的列上建立索引。 2、應(yīng)盡量避免在where子句中對字
    的頭像 發(fā)表于 12-14 11:14 ?1589次閱讀

    python基礎(chǔ)知識點(四)

    字符串類型作為Python中最常用的數(shù)據(jù)類型之一,Python解釋器為了提高字符串使用的效率和使用性能,做了很多優(yōu)化。
    的頭像 發(fā)表于 04-02 15:51 ?1176次閱讀

    優(yōu)化Python代碼有哪些工具

    Python是一種強大的編程語言,但在面對復(fù)雜項目和緊迫的時間要求時,提高Python的使用效率變得至關(guān)重要。為此,以下是詳細介紹十大工具,它們可以幫助您加速開發(fā)流程、提高編程體驗并優(yōu)化Pyt
    的頭像 發(fā)表于 07-24 09:28 ?1372次閱讀
    主站蜘蛛池模板: 国产自产第一区c国产| 色欲AV精品一区二区入口| 亚洲字幕久久| 美女MM131爽爽爽| 白丝萝莉喷水| 99久久国语露脸精品国产| 天天躁躁水汪汪人碰人| 琪琪see色原网色原网站| 美丽的姑娘BD在线观看| 久久99蜜桃精品麻豆| 动漫美女喷水| 在线观看国产亚洲| 亚洲中文字幕无码一去台湾| 亚洲AV无码乱码国产精品品麻豆 | 校花在公车上被内射好舒| 乳色吐息未增删樱花ED在线观看| 久久国产精品高清一区二区三区| 成年美女黄网站色app| brazzers情欲狂欢| xxxxhd17欧美老师| 在线伦理电影网| 中文字幕国产视频| 亚洲 欧美 国产 综合不卡| 午夜影院老司机| 国产传媒18精品免费观看| 在线视频中文字幕| 亚洲蜜桃AV永久无码精品放毛片| 久久婷婷五月综合色精品首页 | 精品国产品国语在线不卡丶| 国产在线观看免费观看不卡| xxx动漫xxx在线观看| seyeye高清视频在线| 俄罗斯XBXBXB兽交| 99久久中文字幕伊人情人 | 乱亲女H秽乱长久久久| 国产亚洲精品V在线观看一| 成人免费小视频| 国产精品国产三级国产AV麻豆| 国产伦精品一区二区免费| 狠狠色狠狠色综合日日91app| 久久久久国产|