我目前正在研究一個程序,其中多個線程需要訪問單個數組列表。該數組充當「緩衝區」。一個或多個線程寫入此列表,一個或多個其他線程讀取並從此列表中刪除。我的第一個問題是,Python中的數組是否線程安全?如果不是,處理情況的標準方法是什麼?多線程需要訪問單個資源
0
A
回答
1
如果只有一個資源,請嘗試使用Threading.lock。
1
您應該使用queue庫。 here是一篇很好的關於線程和隊列的文章。
import Queue
import threading
import urllib2
import time
from BeautifulSoup import BeautifulSoup
hosts = ["http://yahoo.com", "http://google.com", "http://amazon.com",
"http://ibm.com", "http://apple.com"]
queue = Queue.Queue()
out_queue = Queue.Queue()
class ThreadUrl(threading.Thread):
"""Threaded Url Grab"""
def __init__(self, queue, out_queue):
threading.Thread.__init__(self)
self.queue = queue
self.out_queue = out_queue
def run(self):
while True:
#grabs host from queue
host = self.queue.get()
#grabs urls of hosts and then grabs chunk of webpage
url = urllib2.urlopen(host)
chunk = url.read()
#place chunk into out queue
self.out_queue.put(chunk)
#signals to queue job is done
self.queue.task_done()
class DatamineThread(threading.Thread):
"""Threaded Url Grab"""
def __init__(self, out_queue):
threading.Thread.__init__(self)
self.out_queue = out_queue
def run(self):
while True:
#grabs host from queue
chunk = self.out_queue.get()
#parse the chunk
soup = BeautifulSoup(chunk)
print soup.findAll(['title'])
#signals to queue job is done
self.out_queue.task_done()
start = time.time()
def main():
#spawn a pool of threads, and pass them queue instance
for i in range(5):
t = ThreadUrl(queue, out_queue)
t.setDaemon(True)
t.start()
#populate queue with data
for host in hosts:
queue.put(host)
for i in range(5):
dt = DatamineThread(out_queue)
dt.setDaemon(True)
dt.start()
#wait on the queue until everything has been processed
queue.join()
out_queue.join()
main()
print "Elapsed Time: %s" % (time.time() - start)
0
您需要像ATOzTOA提到的鎖。您通過創建它們
lock = threading.Lock()
並且線程在它們進入關鍵部分時獲取它們。完成該部分後,他們解鎖。 pythonic的寫法是
with lock:
do_something(buffer)
相關問題
- 1. 需要確保只有1個線程訪問資源
- 2. CUDA多線程:__線程無法阻止多線程訪問資源
- 3. 訪問睡眠線程資源
- 4. 需要一個簡單的多線程水槽源
- 5. 多個同時訪問單個線程
- 6. 處理需要UI訪問的多個線程
- 7. 我是否需要每個佈局資源的菜單資源
- 8. 從多個線程訪問菜單c#
- 9. 多線程資源訪問 - 我在哪裏放置我的鎖?
- 10. iPhone通過兩個線程訪問一個資源
- 11. EJB強制對資源集合的單個成員進行單線程訪問
- 12. REST設計API訪問多個資源
- 13. 單RSS提要多個資源
- 14. 單個資源和多個資源
- 15. 多線程共享資源
- 16. 多線程資源爭用
- 17. 需要訪問令牌來請求此資源FQL問題
- 18. Jersey 2 - 如何訪問單個請求中的多個資源
- 19. 調試需要訪問外部資源(同源策略)的GWT應用程序
- 20. 被多個線程訪問
- 21. 無法訪問Android上的另一個線程資源(崩潰)
- 22. 如何訪問2個線程之間的共享資源?
- 23. 訪問資源
- 24. 多線程需要多個管道
- 25. 只允許一個線程訪問C#中的資源的簡單方法?
- 26. 爲多用戶環境訪問單個資源
- 27. CanCan多態資源訪問問題
- 28. 從線程單線程單元線程索賠資源/內存
- 29. 需要資源的問題PHP Codeigniter
- 30. symfony訪問此資源需要完全身份驗證