2013-10-25 59 views
0

從Sqoop用戶指南:您可以指定sqoop-export的提交大小嗎?

Sqoop採用多行INSERT語法插入多達100條記錄每條語句。每100個語句,一個寫者任務中的當前事務被提交,導致每10,000行提交一次。

但它沒有提及您是否可以指定特定的提交大小。因此我的問題是 - 你能指定它嗎?有誰知道?

回答

1

有一些可以用來調整這種行爲的兩個屬性:

  1. sqoop.export.records.per.statement - 將爲單個插入語句創建的行數,例如INSERT INTO xxx VALUES(),(),(),...
  2. export.statements.per.transaction - 每個事務的插入語句的數量。例如BEGIN; INSERT,INSERT,... COMMIT

您可以指定在命令行的HADOOP_ARGS部分的屬性(甚至都在同一時間),例如:

sqoop export -Dsqoop.export.records.per.statement=X --connect ... 

你可以找到進一步描述其在Apache Sqoop Cookbook中的使用。

相關問題