pymongo中的快速或批量上插

Question

如何在pymongo中執行批量上插？我想更新一堆條目，並且一次只做一條，速度很慢。

這個問題的答案几乎相同的問題就在這裏：Bulk update/upsert in MongoDB?

接受的答案實際上並沒有回答這個問題。它只是提供了一個鏈接到mongo CLI進行導入/導出。

我也將開放給別人解釋爲什麼做一個散裝UPSERT是沒有可能的/沒有最好的做法，但我們解釋一下這種問題的首選解決方案是什麼。

謝謝！

Answer 1

答案是一樣的：散裝upserts不支持。

Answer 2

，您可以更新使用多=真符合您查詢指定的所有文件。

有一個關於做一個批處理命令你所希望的方式錯誤here。

Answer 3

的MongoDB 2.6+有批量操作的支持。這包括批量插入，upserts，更新等。這樣做的目的是減少/消除按記錄操作（按文檔逐個記錄）的往返等待時間的延遲是正確的。

那麼，如何工作的呢？在Python的例子，因爲這是我參與的工作。

>>> import pymongo 
>>> pymongo.version 
'2.7rc0' 

要使用此功能，我們創建了一個「散」對象，文檔添加到它，然後調用執行它，它會發送所有更新立刻。注意事項：所收集操作的BSON大小（bsonsizes的總和）不得超過16 MB的文檔大小限制。當然，操作次數因此可能會有很大差異，您的里程可能會有所不同。

實施例的散裝UPSERT操作Pymongo：

import pymongo 
conn = pymongo.MongoClient('myserver', 8839) 
db = conn['mydbname'] 
coll = db.myCollection 
bulkop = coll.initialize_ordered_bulk_op() 
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':1}) 
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':2}) 
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':3}) 
retval = bulkop.execute() 

這是必不可少的方法。更多信息請訪問：

http://api.mongodb.org/python/2.7rc1/examples/bulk.html

Answer 4

僅在pymongo 2.7+

http://api.mongodb.org/python/current/examples/bulk.html

Answer 5

pymongo的現代版本（比3.X以上）在降級其中一個一致的界面包裹批量操作服務器版本不支持批量操作。這在MongoDB官方支持的驅動程序中現在是一致的。

因此，編碼的首選方法是使用bulk_write()，而不是使用UpdateOne其他適當的操作操作。現在當然，最好使用自然語言列表，而不是一個具體的建設者

舊機制的文檔的直接翻譯：

from pymongo import UpdateOne 

operations = [ 
    UpdateOne({ "field1": 1},{ "$push": { "vals": 1 } },upsert=True), 
    UpdateOne({ "field1": 1},{ "$push": { "vals": 2 } },upsert=True), 
    UpdateOne({ "field1": 1},{ "$push": { "vals": 3 } },upsert=True) 
] 

result = collection.bulk_write(operations) 

或者經典的文檔轉換循環：

import random 
from pymongo import UpdateOne 

random.seed() 

operations = [] 

for doc in collection.find(): 
    # Set a random number on every document update 
    operations.append(
     UpdateOne({ "_id": doc["_id"] },{ "$set": { "random": random.randint(0,10) } }) 
    ) 

    # Send once every 1000 in batch 
    if (len(operations) == 1000): 
     collection.bulk_write(operations,ordered=False) 
     operations = [] 

if (len(operations) > 0): 
    collection.bulk_write(operations,ordered=False) 

返回的結果爲BulkWriteResult，其中將包含匹配和更新文檔的計數器以及發生的任何「upserts」的返回_id值。

對於批量操作數組的大小存在一些誤解。發送到服務器的實際請求不能超過16MB BSON限制，因爲該限制也適用於發送到使用BSON格式的服務器的「請求」。

但是，這並不能控制您可以構建的請求數組的大小，因爲實際操作只能以批處理方式發送和處理1000。唯一真正的限制是那1000條操作指令本身並不實際創建大於16MB的BSON文檔。這確實是一個很高的命令。

批量方法的一般概念是「較少流量」，因爲一次發送很多東西，只處理一個服務器響應。減少每個更新請求的開銷可以節省大量時間。

Answer 6

與Python 3.5 +最快的批量更新，電機和ASYNCIO：

import asyncio 
import datetime 
import logging 
import random 
import time 

import motor.motor_asyncio 
import pymongo.errors 


async def execute_bulk(bulk): 
    try: 
     await bulk.execute() 
    except pymongo.errors.BulkWriteError as err: 
     logging.error(err.details) 


async def main(): 
    cnt = 0 
    bulk = db.initialize_unordered_bulk_op() 
    tasks = [] 
    async for document in db.find({}, {}, no_cursor_timeout=True): 
     cnt += 1 
     bulk.find({'_id': document['_id']}).update({'$set': {"random": random.randint(0,10)}}) 
     if not cnt % 1000: 
      task = asyncio.ensure_future(execute_bulk(bulk)) 
      tasks.append(task) 
      bulk = db.initialize_unordered_bulk_op() 
    if cnt % 1000: 
     task = asyncio.ensure_future(bulk.execute(bulk)) 
     tasks.append(task) 
    logging.info('%s processed', cnt) 
    await asyncio.gather(*tasks) 


logging.basicConfig(level='INFO')  
db = motor.motor_asyncio.AsyncIOMotorClient()['database']['collection'] 
start_time = time.time() 
loop = asyncio.get_event_loop() 
try: 
    loop.run_until_complete(main()) 
finally: 
    execution_time = time.time() - start_time 
    logging.info('Execution time: %s', datetime.timedelta(seconds=execution_time)) 

Answer 7

如果你有很多的數據，你想，如果存在數據用「_id」的判斷，

你可以試試...

import pymongo 
from pymongo import UpdateOne 
client = pymongo.MongoClient('localhost', 27017) 
db=client['sampleDB'] 

collectionInfo = db.sample 

#sample data 
datas=[ 
    {"_id":123456,"name":"aaa","N":1,"comment":"first sample","lat":22,"lng":33}, 
    {"_id":234567,"name":"aaa","N":1,"comment":"second sample","lat":22,"lng":33}, 
    {"_id":345678,"name":"aaa","N":1,"comment":"xxx sample","lat":22,"lng":33}, 
    {"_id":456789,"name":"aaa","N":1,"comment":"yyy sample","lat":22,"lng":33}, 
    {"_id":123456,"name":"aaaaaaaaaaaaaaaaaa","N":1,"comment":"zzz sample","lat":22,"lng":33}, 
    {"_id":11111111,"name":"aaa","N":1,"comment":"zzz sample","lat":22,"lng":33} 
] 

#you should split judge item and other data 
ids=[data.pop("_id") for data in datas] 

operations=[UpdateOne({"_id":idn},{'$set':data},upsert=True) for idn ,data in zip(ids,datas)] 

collectionInfo.bulk_write(operations) 

我的英語很差，如果你不明白我說什麼，我很抱歉