大文件上传服务器、支持超大文件HTTP断点续传实践总结

avatar
作者
筋斗云
阅读量:0

info += file.lastModified;

if (file.name)

info += file.name;

if (file.size)

info += file.size;

//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js

var fileid = md5(info);

return fileid;

}

笔者认为:不必通过读取文件的内容来计算 HASH 值,这样会非常慢的。如果确实需要实现 HTTP 秒传,可能得这么做,这样如果不同的人上传的文件内容一致,就可避免重复上传,直接返回结果即可。

之所以给浏览器赋予一个 ID,这样可以进一步避免别的计算机的同名同尺寸文件的 HASH 值冲突。

二、查询文件的 HASH 值

在文件上传支持,先通过文件的 HASH 值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下:

var fileObj = currentfile;

var fileid = getFileId(fileObj);

var t = (new Date()).getTime();

//通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存

var url = resume_info_url + ‘?fileid=’+fileid + ‘&t=’+t;

var ajax = new XMLHttpRequest();

ajax.onreadystatechange = function () {

if(this.readyState == 4){

if (this.status == 200){

var response = this.responseText;

var result = JSON.parse(response);

if (!result) {

alert(‘服务器返回的数据不正确,可能是不兼容的服务器’);

return;

}

//断点续传信息返回的文件对象包含已经上传的尺寸

var uploadedBytes = result.file && result.file.size;

if (!result.file.finished && uploadedBytes < fileObj.size) {

upload_file(fileObj,uploadedBytes,fileid);

}

else {

//文件已经上传完成了,就不要再上传了,直接返回结果就可以了

showUploadedFile(result.file);

//模拟进度完成

//var progressBar = document.getElementById(‘progressbar’);

//progressBar.value = 100;

}

}else {

alert(‘获取文件断点续传信息失败’);

}

}

}

ajax.open(‘get’,url,true);

ajax.send(null);

以上是通过 jQuery-file-upload 组件的实现,通过原始 Javascript 的实现代码请参见 demos 目录的 h4resume.html 样本代码。

三、执行上传

在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。

html5 的 File 对象的 slice 可以用于从文件切取片段来上传。

定义和用法

slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。

语法

File.slice(start,end)

参数 描述

start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。

end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。另外,关注 Java 知音公众号,回复 “后端面试”,送你一份面试题宝典!

如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。

实现分片文件上传的代码如下:

/*

文件上传处理代码

fileObj : html5 File 对象

start_offset: 上传的数据相对于文件头的起始位置

fileid: 文件的ID,这个是上面的getFileId 函数获取的,

*/

function upload_file(fileObj,start_offset,fileid)

{

var xhr = new XMLHttpRequest();

var formData = new FormData();

var blobfile;

if(start_offset >= fileObj.size){

return false;

}

var bitrateDiv = document.getElementById(“bitrate”);

var finishDiv = document.getElementById(“finish”);

var progressBar = document.getElementById(‘progressbar’);

var progressDiv = document.getElementById(‘percent-label’);

var oldTimestamp = 0;

var oldLoadsize = 0;

var totalFilesize = fileObj.size;

if (totalFilesize == 0) return;

var uploadProgress = function (evt) {

if (evt.lengthComputable) {

var uploadedSize = evt.loaded + start_offset;

var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);

var timestamp = (new Date()).valueOf();

var isFinish = evt.loaded == evt.total;

if (timestamp > oldTimestamp || isFinish) {

var duration = timestamp - oldTimestamp;

if (duration > 500 || isFinish) {

var size = evt.loaded - oldLoadsize;

var bitrate = (size * 8 / duration /1024) * 1000; //kbps

if (bitrate > 1000)

bitrate = Math.round(bitrate / 1000) + ‘Mbps’;

else

bitrate = Math.round(bitrate) + ‘Kbps’;

var finish = evt.loaded + start_offset;

if (finish > 1048576)

finish = (Math.round(finish / (1048576/100)) / 100).toString() + ‘MB’;

else

finish = (Math.round(finish / (1024/100) ) / 100).toString() + ‘KB’;

progressBar.value = percentComplete;

progressDiv.innerHTML = percentComplete.toString() + ‘%’;

bitrateDiv.innerHTML = bitrate;

finishDiv.innerHTML = finish;

oldTimestamp = timestamp;

oldLoadsize = evt.loaded;

}

}

}

else {

progressDiv.innerHTML = ‘N/A’;

}

}

xhr.onreadystatechange = function(){

if ( xhr.readyState == 4 && xhr.status == 200 ) {

console.log( xhr.responseText );

}

else if (xhr.status == 400) {

}

};

var uploadComplete = function (evt) {

progressDiv.innerHTML = ‘100%’;

var result = JSON.parse(evt.target.responseText);

if (result.result == ‘success’) {

showUploadedFile(result.files[0]);

}

else {

alert(result.msg);

}

}

var uploadFailed = function (evt) {

alert(“上传文件失败!”);

}

var uploadCanceled = function (evt) {

alert(“上传被取消或者浏览器断开了连接!”);

}

//设置超时时间,由于是上传大文件,因此千万不要设置超时

//xhr.timeout = 20000;

//xhr.ontimeout = function(event){

//  alert(‘文件上传时间太长,服务器在规定的时间内没有响应!’);

//}

xhr.overrideMimeType(“application/octet-stream”);

var filesize = fileObj.size;

var blob = fileObj.slice(start_offset,filesize);

var fileOfBlob = new File([blob], fileObj.name);

//附加的文件数据应该放在请求的前面

formData.append(‘filename’, fileObj.name);

//必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理

formData.append(‘fileid’, fileid);

//请将文件数据放在最后的域

//formData.append(“file”,blob, fileObj.name);

formData.append(‘file’, fileOfBlob);

xhr.upload.addEventListener(“progress”, uploadProgress, false);

xhr.addEventListener(“load”, uploadComplete, false);

xhr.addEventListener(“error”, uploadFailed, false);

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
img
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Java)
img

Ending

Tip:由于文章篇幅有限制,下面还有20个关于MySQL的问题,我都复盘整理成一份pdf文档了,后面的内容我就把剩下的问题的目录展示给大家看一下

如果觉得有帮助不妨【转发+点赞+关注】支持我,后续会为大家带来更多的技术类文章以及学习类文章!(阿里对MySQL底层实现以及索引实现问的很多)

吃透后这份pdf,你同样可以跟面试官侃侃而谈MySQL。其实像阿里p7岗位的需求也没那么难(但也不简单),扎实的Java基础+无短板知识面+对某几个开源技术有深度学习+阅读过源码+算法刷题,这一套下来p7岗差不多没什么问题,还是希望大家都能拿到高薪offer吧。

一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
img

内容我就把剩下的问题的目录展示给大家看一下**

如果觉得有帮助不妨【转发+点赞+关注】支持我,后续会为大家带来更多的技术类文章以及学习类文章!(阿里对MySQL底层实现以及索引实现问的很多)

[外链图片转存中…(img-4uxRN9pV-1712902552773)]

[外链图片转存中…(img-uYm1YJHu-1712902552773)]

吃透后这份pdf,你同样可以跟面试官侃侃而谈MySQL。其实像阿里p7岗位的需求也没那么难(但也不简单),扎实的Java基础+无短板知识面+对某几个开源技术有深度学习+阅读过源码+算法刷题,这一套下来p7岗差不多没什么问题,还是希望大家都能拿到高薪offer吧。

一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
[外链图片转存中…(img-zJQ7xezz-1712902552774)]

广告一刻

为您即时展示最新活动产品广告消息,让您随时掌握产品活动新动态!