Database 板


LINE

※ 引述《TeemingVoid (TeemingVoid)》之铭言: : ※ 引述《zxc321 (坚持到底 )》之铭言: 不好意思,借讨论串趁机请教一下各位前辈 小弟最近也遇到类似的问题,关於资料库 Data 的大量汇出/汇入 但由於是个资料库门外汉...@@" 需求是用程式(C#)从 server,依条件捞出资料後写入档案 将档案传给 client 後,同样用C#控制汇入资料库 这边先假设资料库都是 SQL Server 2008 Express 原本作法: 是用前人写好的方法汇出资料、转换成 sql statement 并写入档案 所以内容是大量的 DELETE FROM table_name WHERE condition = con; INSERT INTO table_name(fields) VALUES (value); 接收端收到档案後 用 System.Data.SqlClient.SqlCommand.ExecuteNonQuery() 一行行执行 结果执行时间被评为不可接受QQ (小弟刚又实测了十遍,10万笔资料 DELETE 後 INSERT 约都耗时25~27秒左右) 後来摸索一阵子,也找到了上篇提到 SQL Server 提供的 BCP 公用程式 http://goo.gl/doRy3 (MSDN) 果然不论是汇出或汇入的速度都相当令人满意 同样 10万笔资料,汇出平均 1.1秒,汇入平均 2.5秒 而且也容许由C#端来控制,组出字串後当作SQL statement一样执行就好 大概像这样 exec xp_cmdShell 'bcp database..table_name out output_file -T -S.\SQLEXPRESS' exec xp_cmdShell 'bcp database..table_name in source_file -T -S.\SQLEXPRESS' 同时 BCP 也可以汇出表结构的format档案,在汇入时搭配使用 但...... 以上是当汇入表都无资料(或不要旧资料就TRUNCATE掉)时的美好情形 可以利用 BCP 进行快速的汇出/汇入 假使是需要 UPDATE 的情况,仍然要一笔笔 DELETE 掉,再进行 BCP 汇入 这部份小弟还没找出方法解决 T^T 所以以上算是第一个想请教的问题(INSERT 可用 BCP 汇入取代,那 DELETE 呢?) 第二个问题是 上面曾提到,先假设资料库是使用 SQL Server 2008 Express 那如果资料来源是 Oracle 呢? (一种小弟就被摆平了还变两种... orz) 亦即汇出来源有可能是 MSSQL/Oracle 其中一种 汇入资料库也要相容两种资料库 @@ 上面提到前人给的汇出方法 其实就是用程式从 Oracle 捞出资料後依表结构转成 SQL statement 处理一些字元转换跟类型对映後,就可以喂给MSSQL执行,也算是一种相容方式 只是会在大量资料处理上遇到效能问题 很想知道这方面有没有两全其美的方式! 实在由於小弟之前没好好学资料库,很多观念上都不清楚,拉里拉杂打了不少 还希望有前辈愿意提点一下关键字或是方向 之前也在考虑要在 DB 板还是 C# 板询问 刚好看到这串讨论就厚颜借用一下 感谢您的阅读! --



※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 58.99.47.202
1F:→ ken1325:update一样阿,全部truncate掉再用bcp全部汇入。 08/12 02:49
那请问有保留非重复部份资料的方式吗 @@? 目前我是卡在 BCP 前要把键值重复的资料先 DELETE 掉避免汇入失败 但是又不能直接 TRUNCATE 把没重复的也清除了 ※ 编辑: soon 来自: 58.99.47.202 (08/12 13:55)
2F:推 TeemingVoid:利用 .NET 的 SqlBulkCopy 可将资料整批汇往资料库伺 08/13 16:31
3F:→ TeemingVoid:服器,速度可比美 bcp,但对象不限 SQL Server。 08/13 16:31
4F:→ TeemingVoid:至於资料重复这部分,SQL Sever 的 MERGE 指令的处理 08/13 16:32
5F:→ TeemingVoid:速度极快,可解决您的问题,请先参考下列网址: 08/13 16:32
6F:→ TeemingVoid:http://ppt.cc/L84i 08/13 16:32
7F:→ TeemingVoid:等晚一点我有空时再补上详细说明。 08/13 16:33
8F:→ soon:感谢您的建议,我研究看看! 08/13 20:15







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:BabyMother站内搜寻

TOP