深度學習框架是用于開發和運行人工智能算法的平臺，它為軟件人員開發人工智能提供了模塊化的基礎，一般提供數據輸人、編寫神經網絡模型、訓練模型、硬件驅動和部署等多種功能。
當前，人工智能基礎性算法已經較為成熟，為了讓開發人員更便捷地使用這些算法和
模型來開發特定的人工智能應用，各大廠商紛紛發力建設算法模型工具庫，并將其封裝為軟件框架供開發人員使用。隨著深度學習框架的發展，深度神經網絡結構的設計已經高模塊化。開發者只需要在比較宏觀的層面上選擇組件，構建網絡，定制參數，就可以實現
深度神經網絡的設計。而深度學習框架負責解釋開發者定制的網絡，并將其轉換成芯片可以執行的指令，進而進行模型訓練和推理工作。一個優秀的深度學習框架，一方面要對開發者友好，能提供豐富的組件以及便捷的組網方式，另一方面也要和AI芯片緊密結合，能
實現高效的訓練和推理。對于深度學習框架的設計，要綜合考慮易用性、穩定性、系統性能等多個因素。首先，深度學習框架需要能夠支持研究者和開發者高效地進行人工智能算法模型和應用的開發，因此易用性是一個重要的考量因素。其次，為了能夠支持企業級應用，框架的穩定性和可靠性也至關重要。最后，由于深度學習框架往往要處理超大規模的多模態數據，因此訓練和預測的性能對實際應用也有很大的影響。
總體來說，軟件框架在模型庫建設及調用功能方面具有一定的共性，但又各具特點。
軟件框架有閉源和開源兩種形式:蘋果公司等少數企業選擇采用閉源方式提供軟件框架，目的是打造技術壁壘，而目前業內主流軟件框架基本都是開源化運營的。深度學習框架陸續開源，已經大幅降低了開發門檻。但直接基于深度學習框架開發和設計新的模型算法仍有較高的技術門檻。因此，人們對網絡結構自動化設計的研究越來越多，通過機器學習來設計深度學習模型，減少依賴經驗和反復嘗試調參，以此彌補深度學習專家的稀缺，比較典型的產品包括 Google的Auto ML和百度的AutoDL等。同時，零算法基礎的快速應用平臺等降低技術門檻的平臺開始出現，極大地降低了深度學習應用的入門成本。
人工智能發展到現在，對于開發者來說，軟件框架基本可以說是必不可少的工具，同時其重要性也在于，它是行業巨頭打造其軟硬件生態的重要環節。從2016年Go0gle將自己的深度學習框架開源以來，軟件框架處于群雄并起的時代，各大巨頭意識到通過開源技術建立產業生態是搶占產業制高點的重要手段，紛紛推出了自家的開源深度學習框架，將深度學習軟件框架作為打造開發及使用生態核心的重點。在目前的產業態熱下深度學習模型的表示及存儲尚未統一，訓練軟件框架及推理軟件框架尚未形成-二對應關系技術
生態爭奪將持續。在接下來的幾年中，深度學習框架發展的焦點將是如何更智能地實現量化，如何更好地促進框架間的融合，如何更有效地支持GPU、ASIC等芯片的異構加速能力，如何針對新硬件進行自動編譯，等等。

下面列出目前人工智能框架廠商提供的語言的和硬件，見下圖。