色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大文件上傳服務器、支持超大文件HTTP斷點如何續傳教程

5jek_harmonyos ? 來源:CSDN技術社區 ? 作者:大飛飛魚 ? 2021-08-26 15:36 ? 次閱讀

最近由于筆者所在的研發集團產品需要,需要支持高性能的大文件http上傳,并且要求支持http斷點續傳。這里在簡要歸納一下,方便記憶:

服務器端由C語言實現,而不是用java、PHP這種解釋型語言來實現;

服務器端即時寫入硬盤,因此無需再次調用move_uploaded_file、InputStreamReader 這種需要緩存的技術來避免服務器內存占用與瀏覽器請求超時;

支持HTML5與IFRAME(針對老瀏覽器),并且支持獲取文件上傳進度。

為了更好的適應當前的移動互聯網,要求對上傳服務支持斷點續傳,斷線重連。因為移動互聯網并不非常穩定;再者,上傳一個大文件發生異常掉線的可能性非常大,為了避免重新上傳,支持斷點續傳就變得非常必要了。

支持斷點續傳的思路是:

客戶端(通常是瀏覽器)向服務器端上傳某個文件,并不斷記錄上傳的進度,如果一旦掉線或發生其它異常,客戶端可以向服務器查詢某個文件已經上傳的狀態,從上次上傳的文件位置接著上傳。

網上也有大師采用分片文件上傳方式來實現大文件上傳,方法是將文件切成小片,例如4MB一個片段,服務器端每次接收一小片文件保存成一個臨時文件,等待所有片段傳輸完畢后,再執行合并。

筆者認為,如果原始文件足夠小,這種方式是可以的,但一旦文件有幾百兆或者幾個GB或者幾十個GB,則合并文件的時間會非常長,常常導致瀏覽器響應超時或服務器阻塞。

如果自己實現獨立客戶端(或瀏覽器的ActiveX插件)來上傳文件,則支持斷點續傳將是一件非常簡單的事情,只需在客戶端記錄文件上傳狀態。而支持瀏覽器斷點續傳(無需安裝第三方插件)一般來說是要比自己做獨立客戶端上傳難度大一些,但也不難。我的實現思路如下:

一、瀏覽器在上傳某個文件時候,先給這個文件生成一個HASH值,必須在瀏覽器端生成這個HASH值。

不能單循地依據文件名來查詢文件上傳記錄,文件名的重復性很大,文件名 + 文件尺寸組成的值重復性縮小,如果再加上文件修改時間,則重復性進一步縮小,如果再加上一個瀏覽器的 ID可以進一步縮小重復性沖突。最好的HASH值的計算方法是用文件的內容進行MD5計算,但計算量極大(其實也沒有必要這么做),過多的耗時會影響上傳的體驗。

基于上述理由,我的HASH值計算思路如下:

首先給瀏覽器賦予一個ID,這個ID保存在Cookie里;

瀏覽器的 ID+ 文件的修改時間 + 文件名 + 文件尺寸 的結果進行MD5來計算一個文件的HASH值;

瀏覽器的ID 是系統在瀏覽器訪問文件上傳站點時自動給瀏覽器授予的。

//簡單的Cookie幫助函數 function setCookie(cname,cvalue,exdays)

{

var d = new Date();

d.setTime(d.getTime()+(exdays*24*60*60*1000));

var expires = “expires=”+d.toGMTString();

document.cookie = cname + “=” + cvalue + “; ” + expires;

}

function getCookie(cname)

{

var name = cname + “=”;

var ca = document.cookie.split(‘;’);

for(var i=0; i《ca.length; i++)

{

var c = ca[i].trim();

if (c.indexOf(name)==0) return c.substring(name.length,c.length);

}

return “”;

}

// //簡單的文件HASH值計算,如果您不是十分考究,應該可以用于產品。 //由于計算文件HASH值用到了多種數據,因此在HYFileUploader系統范圍內發生HASH沖突的可能性應該非常小,應該可以放心使用。 //獲取文件的ID可以用任何算法來實現,只要保證做到同一文件的ID是相同的即可,獲取的ID長度不要超過32字節 // function getFileId (file)

{

//給瀏覽器授予一個唯一的ID用于區分不同的瀏覽器實例(不同機器或者相同機器不同廠家的瀏覽器)

var clientid = getCookie(“HUAYIUPLOAD”);

if (clientid == “”) {

//用一個隨機值來做瀏覽器的ID,將作為文件HASH值的一部分

var rand = parseInt(Math.random() * 1000);

var t = (new Date()).getTime();

clientid =rand+‘T’+t;

setCookie(“HUAYIUPLOAD”,clientid,365);

}

var info = clientid;

if (file.lastModified)

info += file.lastModified;

if (file.name)

info += file.name;

if (file.size)

info += file.size;

//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js

var fileid = md5(info);

return fileid;

}

筆者認為:不必通過讀取文件的內容來計算HASH值,這樣會非常慢的。如果確實需要實現HTTP秒傳,可能得這么做,這樣如果不同的人上傳的文件內容一致,就可避免重復上傳,直接返回結果即可。

之所以給瀏覽器賦予一個ID,這樣可以進一步避免別的計算機的同名同尺寸文件的HASH值沖突。

二、查詢文件的HASH值

在文件上傳支持,先通過文件的HASH值從上傳服務器查詢文件的上傳進度信息,然后從上傳進度位置開始上傳,代碼如下:

var fileObj = currentfile;

var fileid = getFileId(fileObj);

var t = (new Date()).getTime();

//通過以下URL獲取文件的斷點續傳信息,必須的參數為fileid,后面追加t參數是避免瀏覽器緩存 var url = resume_info_url + ‘?fileid=’+fileid + ‘&t=’+t;

var ajax = new XMLHttpRequest();

ajax.onreadystatechange = function () {

if(this.readyState == 4){

if (this.status == 200){

var response = this.responseText;

var result = JSON.parse(response);

if (!result) {

alert(‘服務器返回的數據不正確,可能是不兼容的服務器’);

return;

}

//斷點續傳信息返回的文件對象包含已經上傳的尺寸

var uploadedBytes = result.file && result.file.size;

if (!result.file.finished && uploadedBytes 《 fileObj.size) {

upload_file(fileObj,uploadedBytes,fileid);

}

else {

//文件已經上傳完成了,就不要再上傳了,直接返回結果就可以了

showUploadedFile(result.file);

//模擬進度完成

//var progressBar = document.getElementById(‘progressbar’);

//progressBar.value = 100;

}

}else {

alert(‘獲取文件斷點續傳信息失敗’);

}

}

}

ajax.open(‘get’,url,true);

ajax.send(null);

以上是通過 jQuery-file-upload組件的實現,通過原始Javascript的實現代碼請參見demos目錄的h4resume.html樣本代碼。

三、執行上傳

在查詢完文件的斷點續傳信息后,如果文件確實以前已經上傳,服務器將返回已經上傳過的文件尺寸,我們接著從已經上傳的文件尺寸位置開始上傳數據即可。

html5的File對象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice() 方法可提取字文件的某個部分,并以新的字符串返回被提取的部分。

語法

File.slice(start,end)

參數 描述

start 要抽取的片斷的起始下標。如果是負數,則該參數規定的是從字符串的尾部開始算起的位置。也就是說,-1 指字符串的最后一個字符,-2 指倒數第二個字符,以此類推。

end 緊接著要抽取的片段的結尾的下標。若未指定此參數,則要提取的子串包括 start 到原字符串結尾的字符串。另外,關注Java知音公眾號,回復“后端面試”,送你一份面試題寶典!

如果該參數是負數,那么它規定的是從字符串的尾部開始算起的位置。

實現分片文件上傳的代碼如下:

/*

文件上傳處理代碼

fileObj : html5 File 對象

start_offset: 上傳的數據相對于文件頭的起始位置

fileid: 文件的ID,這個是上面的getFileId 函數獲取的,

*/

function upload_file(fileObj,start_offset,fileid)

{

var xhr = new XMLHttpRequest();

var formData = new FormData();

var blobfile;

if(start_offset 》= fileObj.size){

return false;

}

var bitrateDiv = document.getElementById(“bitrate”);

var finishDiv = document.getElementById(“finish”);

var progressBar = document.getElementById(‘progressbar’);

var progressDiv = document.getElementById(‘percent-label’);

var oldTimestamp = 0;

var oldLoadsize = 0;

var totalFilesize = fileObj.size;

if (totalFilesize == 0) return;

var uploadProgress = function (evt) {

if (evt.lengthComputable) {

var uploadedSize = evt.loaded + start_offset;

var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);

var timestamp = (new Date()).valueOf();

var isFinish = evt.loaded == evt.total;

if (timestamp 》 oldTimestamp || isFinish) {

var duration = timestamp - oldTimestamp;

if (duration 》 500 || isFinish) {

var size = evt.loaded - oldLoadsize;

var bitrate = (size * 8 / duration /1024) * 1000; //kbps

if (bitrate 》 1000)

bitrate = Math.round(bitrate / 1000) + ‘Mbps’;

else

bitrate = Math.round(bitrate) + ‘Kbps’;

var finish = evt.loaded + start_offset;

if (finish 》 1048576)

finish = (Math.round(finish / (1048576/100)) / 100).toString() + ‘MB’;

else

finish = (Math.round(finish / (1024/100) ) / 100).toString() + ‘KB’;

progressBar.value = percentComplete;

progressDiv.innerHTML = percentComplete.toString() + ‘%’;

bitrateDiv.innerHTML = bitrate;

finishDiv.innerHTML = finish;

oldTimestamp = timestamp;

oldLoadsize = evt.loaded;

}

}

}

else {

progressDiv.innerHTML = ‘N/A’;

}

}

xhr.onreadystatechange = function(){

if ( xhr.readyState == 4 && xhr.status == 200 ) {

console.log( xhr.responseText );

}

else if (xhr.status == 400) {

}

};

var uploadComplete = function (evt) {

progressDiv.innerHTML = ‘100%’;

var result = JSON.parse(evt.target.responseText);

if (result.result == ‘success’) {

showUploadedFile(result.files[0]);

}

else {

alert(result.msg);

}

}

var uploadFailed = function (evt) {

alert(“上傳文件失??!”);

}

var uploadCanceled = function (evt) {

alert(“上傳被取消或者瀏覽器斷開了連接!”);

}

//設置超時時間,由于是上傳大文件,因此千萬不要設置超時

//xhr.timeout = 20000;

//xhr.ontimeout = function(event){

// alert(‘文件上傳時間太長,服務器在規定的時間內沒有響應!’);

//}

xhr.overrideMimeType(“application/octet-stream”);

var filesize = fileObj.size;

var blob = fileObj.slice(start_offset,filesize);

var fileOfBlob = new File([blob], fileObj.name);

//附加的文件數據應該放在請求的前面

formData.append(‘filename’, fileObj.name);

//必須將fileid信息傳送給服務器,服務器只有在獲得了fileid信息后才對文件做斷點續傳處理

formData.append(‘fileid’, fileid);

//請將文件數據放在最后的域

//formData.append(“file”,blob, fileObj.name);

formData.append(‘file’, fileOfBlob);

xhr.upload.addEventListener(“progress”, uploadProgress, false);

xhr.addEventListener(“load”, uploadComplete, false);

xhr.addEventListener(“error”, uploadFailed, false);

xhr.addEventListener(“abort”, uploadCanceled, false);

xhr.open(‘POST’, upload_file_url);

//

xhr.send(formData);

}

為了驗證文件斷點續傳,筆者做了一個簡單的界面,用于顯示文件上傳的過程中的狀態信息。

通過HTML可以計算文件上傳的進度,文件已經上傳的尺寸,文件上傳的位率等信息,如果在上傳過程中出現任何異常,則重新上傳即可,已經上傳的部分將不需要重新上傳。

為了驗證HTML5斷點續傳,可以通過 github來下載 這個文件上傳服務器來進行測試。

https://github.com/wenshui2008/UploadServer

來源:blog.csdn.net/ababab12345/article/details/80490621

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • JAVA
    +關注

    關注

    19

    文章

    2970

    瀏覽量

    104804
  • C語言
    +關注

    關注

    180

    文章

    7605

    瀏覽量

    136976
  • PHP
    PHP
    +關注

    關注

    0

    文章

    453

    瀏覽量

    26705
  • Hash
    +關注

    關注

    0

    文章

    32

    瀏覽量

    13211

原文標題:大文件上傳服務器、支持超大文件HTTP斷點續傳實踐總結

文章出處:【微信號:harmonyos_developer,微信公眾號:harmonyos_developer】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    通過瀏覽訪問文件——P2Link內置HTTP服務

    P2Link可快速為本地文件目錄提供公網HTTP服務地址,用于遠程瀏覽和下載本地文件,類似于nginx等服務器軟件的靜態資源功能。 通過
    的頭像 發表于 11-14 10:03 ?294次閱讀
    通過瀏覽<b class='flag-5'>器</b>訪問<b class='flag-5'>文件</b>——P2Link內置<b class='flag-5'>HTTP</b><b class='flag-5'>服務</b>

    如何使用SFTP傳輸大文件

    數據在傳輸過程中的安全性。 1. 了解SFTP SFTP是一個網絡協議,用于在兩個主機之間安全地傳輸文件。它基于SSH協議,因此提供了與SSH相同的加密和身份驗證機制。SFTP客戶端和服務器之間的通信是加密的,這意味著傳輸的數據不易被竊聽或篡改
    的頭像 發表于 11-13 14:11 ?726次閱讀

    Windows連接P2Link的FTP服務——遠程操作文件

    FTP協議允許用戶通過客戶端軟件連接到FTP服務器,進行文件上傳、下載、刪除、重命名等操作。P2Link可快速為本地文件目錄提供公網FTP服務
    的頭像 發表于 11-13 11:48 ?247次閱讀
    Windows連接P2Link的FTP<b class='flag-5'>服務</b>——遠程操作<b class='flag-5'>文件</b>

    P2Link是什么?——免費讓你體驗高效智聯的新方式

    P2Link 是一個非常方便、簡單的工具,可以幫你直接傳輸大文件,或者讓別人訪問你內網中的服務。它不像傳統工具需要復雜的配置,也沒有上傳到云端的煩惱。特別適合那些臨時共享文件、傳
    的頭像 發表于 10-31 14:11 ?204次閱讀

    網關斷點續傳可以實現什么功能

    功能應運而生,它以其獨特的技術優勢,為大規模、高可靠性的數據傳輸提供了有力支持。本文將深入探討網關斷點續傳可以實現的功能及其在現代信息技術體系中的重要作用。 一、斷點續傳的基本概念 斷點續傳
    的頭像 發表于 10-16 13:53 ?235次閱讀

    服務器數據恢復—V7000存儲NTFS文件系統數據恢復案例

    服務器存儲數據恢復環境: 一臺掛載在Windows server服務器上的v7000存儲。存儲空間劃分了一個分區,采用NTFS文件系統,存放oracle數據庫。 服務器存儲故障:
    的頭像 發表于 10-14 14:03 ?227次閱讀
    <b class='flag-5'>服務器</b>數據恢復—V7000存儲NTFS<b class='flag-5'>文件</b>系統數據恢復案例

    使用NS1串口服務器HTTP模式上傳服務器數據

    NS1的HTTP客戶端模式上傳服務器數據。一HTTP請求的格式在客戶機和服務器之間進行請求-響應時,兩種最常被用到的方法是:GET和POST
    的頭像 發表于 08-30 12:36 ?371次閱讀
    使用NS1串口<b class='flag-5'>服務器</b><b class='flag-5'>HTTP</b>模式<b class='flag-5'>上傳</b><b class='flag-5'>服務器</b>數據

    服務器數據恢復—xfs文件系統服務器數據恢復案例

    某公司一臺服務器,連接了一臺存儲。該服務器安裝linux操作系統,文件系統為xfs。 在運行過程中該服務器出現故障,管理員使用xfs_repair工具試圖對xfs
    的頭像 發表于 08-19 10:49 ?305次閱讀

    wifi配網模塊用到了httpd,單獨開http服務器會沖突報錯怎么解決?

    wifi配網模塊用到了httpd,單獨開http服務器會沖突報錯 通過配網模塊里的附加端點,注冊了上傳文件,但是在回調中沒辦法讀取流數據 是否通過這種方式只能
    發表于 08-01 06:35

    如何修改buildroot和debian文件系統

    本文檔主要介紹在沒有編譯環境的情況下,如何修改buildroot和debian文件系統方法,如在buildroot文件系統中添加文件、修改目錄等文件操作,在debian
    的頭像 發表于 07-22 17:46 ?499次閱讀
    如何修改buildroot和debian<b class='flag-5'>文件</b>系統

    如何使用httpclient.c中的ESP8266和http_post將文件上傳服務器

    我想使用 httpclient.c 中的ESP8266和http_post將文件上傳服務器。 為了節省內存,文件(約 200KB)將存儲
    發表于 07-12 09:47

    esp32如何一次性讀取大文件數據?

    esp32沒有提供數據庫讀寫的例子,最近有個大文件,無法一次性讀出,請問,怎么讀取,json中一部分json數組。然后修改完了以后,在寫入進去?
    發表于 06-25 06:52

    使用ESP32-S3開發板http post請求發送SD卡上的大文件,如何循環邊讀取文件邊分塊發送文件呢?

    您和,我準備使用ESP32-S3開發板http post請求發送SD卡上的大文件,但是使用esp_http_client_set_post_field的buffer太小,內存不能一次性申請太大,請問
    發表于 06-06 06:19

    服務器數據恢復—非正常關機導致服務器文件丟失的數據恢復案例

    服務器數據恢復環境: 某品牌PowerEdge R730服務器+PowerVault MD3200存儲,劃分若干lun,操作系統版本是centos7,EXT4文件系統。 服務器
    的頭像 發表于 01-19 13:42 ?534次閱讀

    如何通過WebDAV服務器訪問NAS

    WebDAV是 HTTP 協議的擴展,可讓用戶管理存儲在遠程服務器上的文件,可以使用用戶名和密碼來進行訪問,同時直接拷貝,編輯或刪除共享空間內的文件。啟用WebDAV
    的頭像 發表于 01-16 15:30 ?1087次閱讀
    如何通過WebDAV<b class='flag-5'>服務器</b>訪問NAS
    主站蜘蛛池模板: 国产三级在线观看视频| 强行撕开衣服捏胸黄文| 午夜日韩久久影院| 国产在线观看免费观看| 一本道高清到手机在线| 蜜芽最新域名解析网站| 调教日本美女| 亚洲欧美一区二区三区九九九| 麻1豆传媒2021精品| 欧美高清videossexo| 成人AV无码一二二区视频免费看| 肉耽高h一受n攻| 国产亚洲色婷婷久久精品99| 中文字幕无码他人妻味| 日本黄色官网| 精品视频一区二区三三区四区| G0GO人体大尺香蕉| 午夜在线播放免费人成无| 久久精品手机观看| 成人在线观看国产| 一个色综合久久| 日韩精品AV一区二区三区| 黄得让人湿的片段| 扒开老师粉嫩的泬10P| 亚洲综合视频| 少妇高潮A视频| 旧里番ovaの催○セイ活指导| 国产成人免费高清在线观看| 1000部做羞羞事禁片免费视频网站| 婷婷精品国产亚洲AV在线观看| 美国一级黄色| 国产一级做a爰片久久毛片男| 97视频免费在线| 亚洲色欲国产AV精品综合| 色百度网址大全| 免费看男人J放进女人J无遮掩| 国产色精品VR一区二区| yy8090韩国理伦片在线| 1300部真实小Y女视频合集| 午夜宅宅伦电影网| 全是肉的高h短篇列车|