使用机器学习训练数据时,如果数据量较大可能我们不能够一次性将数据加载进内存,这时我们需要将数据进行预处理,分批次加载进内存。
下面是代码作用是将数据从数据库读取出来分批次写入txt文本文件,方便我们做数据的预处理和训练机器学习模型。
#%%
import pymssql as MySQLdb #这里是python3 如果你是python2.x的话,import MySQLdb
#数据库连接属性
hst = \'188.10.34.18\'
usr = \'sa\'
passwd = \'p@ssw0rd\'
db = \'HistoryTrace\'
#总共多少数据
allData = 1674333
#每个批次多少条数据
dataOfEach = 20000
#批次
batch = ceil(allData/dataOfEach)
#文件名
global IDctrl
IDctrl = 1
filename = str(IDctrl)+\'.txt\'
#连接数据库
conn = MySQLdb.connect(host=hst,user=usr,password=passwd,data =db)
cur=conn.cursor()
while IDctrl<batch:
#读取数据库
sql = \'SELECT Longitude,Latitude,Altitude,VelComOfLong,VelComOfLati,Aircraft,Section,TimeMinus\\
FROM dealed1 where ID>=\' + str(IDctrl) + \' and ID <\' + str(IDctrl + dataOfEach)
cur.execute(sql)
rows=cur.fetchall()
#写文件
f = open(filename,\'w\')
f.writelines(str(rows))
#文件名加1
IDctrl+=1
filename = str(IDctrl)+\'.txt\'
#关闭数据库连接
f.close()
conn.close()
以上这篇Python从数据库读取大量数据批量写入文件的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。
继续阅读与本文标签相同的文章
上一篇 :
iptables 配置端口及转发
下一篇 :
数字娱乐博览会:未来3年将在成都投资10亿元
-
高榕资本高翔:发展产业互联网,基础条件已经具备
2026-05-19栏目: 教程
-
高榕资本高翔:未来5年高度关注5G生态和云生态
2026-05-19栏目: 教程
-
聊城市人民政府副市长洪玉振:拥抱互联网、数字世界
2026-05-19栏目: 教程
-
phpstorm运行本地PHP服务器,实现小程序可以访问的PHP后台
2026-05-19栏目: 教程
-
阿里云注册域名教程
2026-05-19栏目: 教程
