音樂AI技術正在快速發展。
在預印平臺Arxiv.org上發布的一項研究中,約翰內斯·開普勒大學林茨計算感知研究所和奧地利人工智能研究所的研究人員介紹了一個可以預測活頁樂譜中和目標錄音匹配度最高的的位置的AI系統。表面上,其對齊精度高于當前基于圖像的最新樂譜追蹤器。
樂譜追蹤技術是很多應用程序的基礎。這些應用包括自動伴奏、翻頁以及將現場表演與可視化圖像同步等等。現有的系統要么依賴于固定長短的小片段樂譜圖像,要么需要光學音樂識別技術所提取出的計算機可讀的樂譜。但是這些研究人員的AI系統可以以獨特的方式觀察整頁樂譜,從而從頭到尾地追蹤任意長度的音樂表演。
這個研究團隊將樂譜追蹤當作一種圖像分割任務。根據特定時間的某個音樂表演,他們的系統針對當前正在播放的音樂相對應的樂譜預測分段蒙版(即小片段)。研究人員說,僅僅利用固定大小音頻輸入的樂譜追蹤器無法在超過特定環境的情況下區分重復的音符,然而他們提出的AI系統在處理較長時間的樂譜時都不會有問題。
在實驗過程中,研究人員們從多模型樂譜數據集(MSMD)中獲取了一些復音鋼琴樣本,其中包括巴赫、莫扎特、貝多芬等多個作曲家的作品。在手動識別并且糾正一些對齊上的錯誤后,他們通過353對樂譜和MIDI音頻信息訓練了AI系統。
該AI系統的另一位作者說,除了最高的門檻以外(沒搞懂highest threshold是啥),他們的系統擁有比基準線更高的性能,并能在時間差方面得出更精確的結果(即對于更嚴格的容錯率,百分比更高)。它偶爾也會產生一些錯誤,研究人員將其歸因于系統可能會在圖像紙上 “大幅跳躍”。但是他們斷言,種種試驗結果都表明這個AI系統在大多數情況下都是“非常精確的”。
“未來的工作會需要對掃描圖像或照片進行測試,以評估該AI系統在視覺領域的泛化能力。”研究人員寫道,“成就功能更強大的系統的下一步是顯式或隱式地結合某種機制來處理樂譜和演奏中重復的音符。盡管我們也懷疑其性能會很大程度上取決于迄今為止音頻的隱式編碼。舉例來說,循環網絡中能夠存儲多大的聽覺環境將成為很重要的一個因素,但我們相信,我們所提出的方法能夠從合適的(經受過訓練的)的數據中很自然地獲得這種功能。”
音樂AI技術正在快速發展。OpenAI最近發布了一款叫做Jukebox的機器學習框架,它可以生成包括基本歌曲在內的音樂作為各種音樂類型和音樂風格的原始音頻。在2018年末,Google Brain的“Project Magenta”項目致力于“探索機器學習在創作過程中的作用”,提出了一個叫做“Musical Transformer”的模型。該模型能夠生成可識別的重復性歌曲。不僅如此,去年三月,谷歌發布了一種算法“Google Doodle”,讓用戶能夠創造向巴赫致敬的旋律。
責任編輯:lq
-
音頻
+關注
關注
29文章
2899瀏覽量
81807 -
數據集
+關注
關注
4文章
1209瀏覽量
24793 -
ai技術
+關注
關注
1文章
1289瀏覽量
24414
原文標題:研究人員的AI技術能夠實時匹配活頁樂譜與MIDI音頻
文章出處:【微信號:livevideostack,微信公眾號:LiveVideoStack】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論