你向 MySQL 数据库插入 100w 条数据用了多久?
码农突围
共 8840字,需浏览 18分钟
·
2021-06-03 01:22
点击上方“码农突围”,马上关注 这里是码农充电第一站,回复“666”,获取一份专属大礼包 真爱,请设置“星标”或点个“在看
多线程插入(单表)
链接耗时 (30%) 发送query到服务器 (20%) 解析query (20%) 插入操作 (10% * 词条数目) 插入index (10% * Index的数目) 关闭链接 (10%)
多线程插入(多表)
预处理SQL
普通SQL,即使用Statement接口执行SQL 预处理SQL,即使用PreparedStatement接口执行SQL
String sql = "insert into testdb.tuser (name, remark, createtime, updatetime) values (?, ?, ?, ?)";
for (int i = 0; i < m; i++) {
//从池中获取连接
Connection conn = myBroker.getConnection();
PreparedStatement pstmt = conn.prepareStatement(sql);
for (int k = 0; k < n; k++) {
pstmt.setString(1, RandomToolkit.generateString(12));
pstmt.setString(2, RandomToolkit.generateString(24));
pstmt.setDate(3, new Date(System.currentTimeMillis()));
pstmt.setDate(4, new Date(System.currentTimeMillis()));
//加入批处理
pstmt.addBatch();
}
pstmt.executeBatch(); //执行批处理
pstmt.close();
myBroker.freeConnection(conn); //连接归池
}
多值插入SQL
普通插入SQL:INSERT INTO TBL_TEST (id) VALUES(1) 多值插入SQL:INSERT INTO TBL_TEST (id) VALUES (1), (2), (3)
事务(N条提交一次)
/// <summary>
/// 执行多条SQL语句,实现数据库事务。
/// </summary>mysql数据库
/// <param name="SQLStringList">多条SQL语句</param>
public void ExecuteSqlTran(List<string> SQLStringList)
{
using (MySqlConnection conn = new MySqlConnection(connectionString))
{
if (DBVariable.flag)
{
conn.Open();
MySqlCommand cmd = new MySqlCommand();
cmd.Connection = conn;
MySqlTransaction tx = conn.BeginTransaction();
cmd.Transaction = tx;
try
{
for (int n = 0; n < SQLStringList.Count; n++)
{
string strsql = SQLStringList[n].ToString();
if (strsql.Trim().Length > 1)
{
cmd.CommandText = strsql;
cmd.ExecuteNonQuery();
}
//后来加上的
if (n > 0 && (n % 1000 == 0 || n == SQLStringList.Count - 1))
{
tx.Commit();
tx = conn.BeginTransaction();
}
}
//tx.Commit();//原来一次性提交
}
catch (System.Data.SqlClient.SqlException E)
{
tx.Rollback();
throw new Exception(E.Message);
}
}
}
}
- END - 最近热文
• 他是世界上最杰出程序员之一,1 个月写了个操作系统,退休后去做飞行员! • 开挂的00后!17岁「天才少女」被8所世界名校录取,最终选择MIT计算机系 • 微信沙雕功能“炸屎”上线!网友:满屏的粑粑真可爱 • 对比安卓!鸿蒙OS 2.0流畅度实测:差距到底多大?
评论