日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区

您的位置:首頁技術文章
文章詳情頁

在django項目中導出數據到excel文件并實現下載的功能

瀏覽:159日期:2022-07-06 16:05:46

依賴模塊

xlwt下載:pip install xlwt

后臺模塊

view.py

# 導出Excel文件def export_excel(request): city = request.POST.get(’city’) print(city) list_obj=place.objects.filter(city=city) # 設置HTTPResponse的類型 response = HttpResponse(content_type=’application/vnd.ms-excel’) response[’Content-Disposition’] = ’attachment;filename=’+city+’.xls’ '''導出excel表''' if list_obj: # 創建工作簿 ws = xlwt.Workbook(encoding=’utf-8’) # 添加第一頁數據表 w = ws.add_sheet(’sheet1’) # 新建sheet(sheet的名稱為'sheet1') # 寫入表頭 w.write(0, 0, u’地名’) w.write(0, 1, u’次數’) w.write(0, 2, u’經度’) w.write(0, 3, u’緯度’) # 寫入數據 excel_row = 1 for obj in list_obj: name = obj.place sum = obj.sum lng = obj.lng lat = obj.lat # 寫入每一行對應的數據 w.write(excel_row, 0, name) w.write(excel_row, 1, sum) w.write(excel_row, 2, lng) w.write(excel_row, 3, lat) excel_row += 1 # 寫出到IO output = BytesIO() ws.save(output) # 重新定位到開始 output.seek(0) response.write(output.getvalue()) return response

前端模塊

<button type='button' >導出excel</button>

$('#export_excel').click(function () { var csrf=$(’input[name='csrfmiddlewaretoken']’).val(); const req = new XMLHttpRequest(); req.open(’POST’, ’/export_excel/’, true); req.responseType = ’blob’; req.setRequestHeader(’Content-Type’, ’application/x-www-form-urlencoded’); //設置請求頭 req.send(’city=’+$(’#city’).val()+'&&csrfmiddlewaretoken='+csrf); //輸入參數 req.onload = function() { const data = req.response; const a = document.createElement(’a’); const blob = new Blob([data]); const blobUrl = window.URL.createObjectURL(blob); download(blobUrl) ; }; });

function download(blobUrl) { var city = $('input[name=’city’]').val(); const a = document.createElement(’a’); a.style.display = ’none’; a.download = ’<文件命名>’; a.href = blobUrl; a.click(); document.body.removeChild(a);}

補充知識:Python Django實現MySQL百萬、千萬級的數據量下載:解決memoryerror、nginx time out

前文

在用Django寫項目的時候時常需要提供文件下載的功能,而Django也是貼心提供了幾種方法:FileResponse、StreamingHttpResponse、HttpResponse,其中FileResponse和StreamingHttpResponse都是使用迭代器迭代生成數據的方法,所以適合傳輸文件比較大的情況;而HttpResponse則是直接取得數據返回給用戶,所以容易造成memoryerror和nginx time out(一次性取得數據和返回的數據過多,導致nginx超時或者內存不足),關于這三者,DJango的官網也是寫的非常清楚,連接如下:https://docs.djangoproject.com/en/1.11/ref/request-response/

那正常我們使用的是FileResponse和StreamingHttpResponse,因為它們流式傳輸(迭代器)的特點,可以使得數據一條條的返回給客戶端,文件隨時中斷和復傳,并且保持文件的一致性。

FileResponse和StreamingHttpResponse

FileResponse顧名思義,就是打開文件然后進行傳輸,并且可以指定一次能夠傳輸的數據chunk。所以適用場景:從服務端返回大文件。缺點是無法實時獲取數據庫的內容并傳輸給客戶端。舉例如下:

def download(request): file=open(’path/demo.py’,’rb’) response =FileResponse(file) response[’Content-Type’]=’application/octet-stream’ response[’Content-Disposition’]=’attachment;filename='demo.py'’ return response

從上可以發現,文件打開后作為參數傳入FileResponse,隨后指定傳輸頭即可,但是很明顯用這個來傳輸數據庫就不太方便了,所以這邊推介用StreamingHttpResponse的方式來傳輸。

這里就用PyMysql來取得數據,然后指定為csv的格式返回,具體代碼如下:

# 通過pymysql取得數據import pymysqlfield_types = { 1: ’tinyint’, 2: ’smallint’, 3: ’int’} #用于后面的字段名匹配,這里省略了大多數conn = pymysql.connect(host=’127.0.0.1’,port=3306,database=’demo’,user=’root’,password=’root’)cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)cursor.execute(sql)#獲取所有數據data = cursor.fetchall()cols = {}#獲取所有字段for i,row in enumerate(self.cursor.description): if row[0] in cols: cols[str(i)+row[0]] = field_types.get(row[1], str(row[1])) #這里的field_type是類型和數字的匹配 cols[row[0]] = field_types.get(row[1], str(row[1]))cursor.close()conn.close()#通過StreamingHttpResponse指定返回格式為csvresponse = StreamingHttpResponse(get_result_fromat(data, cols))response[’Content-Type’] = ’application/octet-stream’response[’Content-Disposition’] = ’attachment;filename='{0}'’.format(out_file_name)return response#循環所有數據,然后加到字段上返回,注意的是要用迭代器來控制def get_result_fromat(data, cols): tmp_str = '' # 返回文件的每一列列名 for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' for row in data: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n'

整個代碼如上,大致分為三部分:從mysql取數據,格式化成我們想要的格式:excel、csv、txt等等,這邊指定的是csv,如果對其他格式也有興趣的可以留言,最后就是用StreamingHttpResponse指定返回的格式返回。

實現百萬級數據量下載

上面的代碼下載可以支持幾萬行甚至十幾萬行的數據,但是如果超過20萬行以上的數據,那就比較困難了,我這邊的剩余內存大概是1G的樣子,當超過15萬行數據(大概)的時候,就報memoryerror了,問題就是因為fetchall,雖然我們StreamingHttpResponse是一條條的返回,但是我們的數據時一次性批量的取得!

如何解決?以下是我的解決方法和思路:

用fetchone來代替fetchall,迭代生成fetchone

發現還是memoryerror,因為execute是一次性執行,后來發現可以用流式游標來代替原來的普通游標,即SSDictCursor代替DictCursor

于是整個代碼需要修改的地方如下:

cursor = conn.cursor(cursor=pymysql.cursors.DictCursor) ===>cursor = conn.cursor(cursor=pymysql.cursors.SSDictCursor)

data = cursor.fetchall() ===>row = cursor.fetchone()

def get_result_fromat(data, cols): tmp_str = '' # 返回文件的每一列列名 for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' for row in data: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n' =====> def get_result_fromat(data, cols): tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' while True: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n' row = db.cursor.fetchone() if row is None: break

可以看到就是通過while True來實現不斷地取數據下載,有效避免一次性從MySQL取出內存不足報錯,又或者取得過久導致nginx超時!

總結

關于下載就分享到這了,還是比較簡單的,謝謝觀看~希望能給大家一個參考,也希望大家多多支持好吧啦網。

標簽: excel
相關文章:
日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区
噜噜噜久久亚洲精品国产品小说| 欧美69视频| 午夜久久黄色| 精品一区在线| 亚洲神马久久| 亚洲综合中文| 日本亚洲最大的色成网站www | 日日夜夜免费精品| 亚洲免费专区| 国产三级精品三级在线观看国产| 日本精品一区二区三区在线观看视频| 蜜桃久久久久久久| 日韩1区2区3区| 国产日产精品_国产精品毛片| 麻豆久久久久久| 中文字幕在线视频网站| 久久精品99久久无色码中文字幕| 久久三级福利| 婷婷激情图片久久| 免费一区二区视频| 欧美日韩在线精品一区二区三区激情综合| 国产精选久久| 成人福利视频| 欧美日韩国产在线一区| 亚洲综合色婷婷在线观看| 国产午夜精品一区在线观看| 国产一二在线播放| 不卡av一区二区| 亚洲精品进入| 国产中文字幕一区二区三区| 激情久久中文字幕| 伊人国产精品| 国产欧美在线| 日韩不卡在线| 免费成人在线视频观看| 亚洲精选成人| 韩国久久久久久| 精品免费视频| 日韩中文视频| 亚洲大片在线| 亚州欧美在线| 亚洲天堂资源| 亚洲人亚洲人色久| 精品国产乱码久久久久久1区2匹 | 香蕉久久久久久| 精品视频网站| 日韩精品一区二区三区免费观影| 国产精品视区| 国产精品久久久久77777丨 | 日韩一区二区三区免费| 亚洲人www| 黄色在线观看www| 在线观看一区| 国产精品99一区二区三| 久久午夜精品| 精品国产精品国产偷麻豆| 亚洲一区二区毛片| 欧美国产偷国产精品三区| 亚洲一二av| 欧美成人基地 | 亚洲一区二区小说| 久久久男人天堂| 日韩高清电影免费| 伊人久久大香线蕉av不卡| 国产精品久久久久77777丨| 性一交一乱一区二区洋洋av| 国产成人精品一区二区三区在线| 奶水喷射视频一区| 亚洲天堂资源| 国产极品一区| 亚洲精品韩国| 激情欧美丁香| 亚洲欧美视频| 蜜臀av国产精品久久久久| 亚洲黄色中文字幕| 日本午夜精品视频在线观看| 欧美1级日本1级| 国产一二在线播放| 国产精品亚洲欧美一级在线| 中文字幕av一区二区三区人| 精品一区免费| 另类专区亚洲| 国产精品久久久久77777丨| 中文一区一区三区免费在线观| 日韩一区三区| 久久香蕉网站| 在线精品福利| 午夜精品亚洲| 88xx成人免费观看视频库| 影视先锋久久| 国产成人精品999在线观看| 国产调教一区二区三区| 一本综合精品| 在线视频精品| 久久视频精品| 亚洲天堂一区二区| 国产一区二区三区久久| 国产精品videossex| 日韩av中文字幕一区二区三区| 亚洲综合另类| 欧美日韩国产免费观看视频| 精品女同一区二区三区在线观看| 欧美一区二区三区久久| 亚洲精品麻豆| 日本 国产 欧美色综合| 好看不卡的中文字幕| 久久青草久久| 久久视频一区| 亚洲福利久久| 久久久777| 九色porny丨国产首页在线| 狠狠躁少妇一区二区三区| 国产美女高潮在线观看| 日韩国产专区| 久久青草久久| 午夜国产一区二区| 欧美一级精品| 午夜国产一区二区| 99在线精品免费视频九九视| 中文一区在线| 99视频精品全国免费| 欧美成人基地| 欧美99久久| 国产视频欧美| 综合日韩在线| 手机精品视频在线观看| 亚洲三级国产| 一区二区亚洲视频| 在线免费观看亚洲| 四虎在线精品| 日本强好片久久久久久aaa| 日韩va亚洲va欧美va久久| 日本91福利区| 国产精品jk白丝蜜臀av小说| 另类综合日韩欧美亚洲| 岛国av在线网站| 色婷婷久久久| 亚洲成人精选| 中文字幕日韩欧美精品高清在线| 日本欧美在线| 久久精品亚洲| 美女网站视频一区| 亚洲一区日本| 久久国内精品| 手机在线电影一区| 亚洲黑丝一区二区| 亚洲成人免费| 亚洲人妖在线| 久久精品人人| 欧美日韩在线播放视频| 老鸭窝亚洲一区二区三区| 日韩1区2区3区| 激情综合五月| 欧洲激情综合| 日韩精品免费视频一区二区三区 | 免费精品视频| 欧美一区不卡| 91视频久久| 国产在线日韩| 香蕉久久一区| 国产一区二区三区久久| 好吊一区二区三区| 欧美精品国产一区| а√在线中文在线新版| 男女男精品视频网| 加勒比视频一区| 国产精品婷婷| 久久精品福利| 在线一区免费观看| 欧美国产日韩电影| 欧美不卡高清一区二区三区| 亚洲精品乱码| 伊人久久国产| 中文字幕乱码亚洲无线精品一区| 久久99久久久精品欧美| 好吊视频一区二区三区四区| 麻豆国产欧美日韩综合精品二区| 欧美日韩少妇| 久久91视频| 亚洲人成网77777色在线播放 | 亚洲免费播放| 国产精品nxnn| 麻豆亚洲精品| av免费不卡国产观看| 中文字幕av一区二区三区四区| 麻豆理论在线观看| 综合激情视频| 日韩中文字幕高清在线观看| 91欧美极品| 黄色成人91| 国产成人免费精品| 日韩高清电影一区| 在线国产一区二区| 久久精品三级| 综合一区二区三区| 99视频精品全国免费| 精品一区视频| 亚洲97av| 91精品观看| 国际精品欧美精品|