Примеры рептилии питона поддержки многопоточности

Сегодня мало для всех , чтобы разделить поддержку питона многопоточного экземпляра гусеничного, имеет хорошую эталонное значение, мы хотим помочь. Следуйте Xiaobian , чтобы он пришел вместе
ython является многопоточной, в основном за счет резьбы и резьбы два модуля для достижения, этот документ , чтобы поделиться с питона многопоточных Web Crawler

В целом, использование потоков, есть два режима, один должен создать поток для выполнения функции, функция передается в объект Thread, где она выполняется. Другой наследуется непосредственно из ниток, создать новый класс, поток выполнения кода в новый класс внутри.

Многопоточная веб-сканер, использование многопоточности и запирающих механизмов, для достижения в ширину первого алгоритма Роботы.

Я дам вам краткое введение реализации идей:

Для веб-искателя, если вы хотите, чтобы загрузить ширину обхода, то это:

1. Первая страница загружается с URL учитывая входа

2. Выписка из первой страницы всего нового адреса веб-страницы в список загрузки

3. Загрузите список адресов, чтобы загрузить все новые страницы

4. Найдите не загружена с веб-адреса для всех новых страниц, обновление загрузить список

5. Повторите два шага 3 и 4, список загрузки до обновления останавливаются, когда пустая таблица

питон код выглядит следующим образом:

#!/usr/bin/env python
#coding=utf-8
import threading
import urllib
import re
import time
g_mutex=threading.Condition()
g_pages=[] #从中解析所有url链接
g_queueURL=[] #等待爬取的url链接列表
g_existURL=[] #已经爬取过的url链接列表
g_failedURL=[] #下载失败的url链接列表
g_totalcount=0 #下载过的页面数
class Crawler:
 def __init__(self,crawlername,url,threadnum):
  self.crawlername=crawlername
  self.url=url
  self.threadnum=threadnum
  self.threadpool=[]
  self.logfile=file("log.txt",'w')
 def craw(self):
  global g_queueURL
  g_queueURL.append(url) 
  depth=0
  print self.crawlername+" 启动..."
  while(len(g_queueURL)!=0):
   depth+=1
   print 'Searching depth ',depth,'...\n\n'
   self.logfile.write("URL:"+g_queueURL[0]+"........")
   self.downloadAll()
   self.updateQueueURL()
   content='\n>>>Depth '+str(depth)+':\n'
   self.logfile.write(content)
   i=0
   while i<len(g_queueURL):
    content=str(g_totalcount+i)+'->'+g_queueURL[i]+'\n'
    self.logfile.write(content)
    i+=1
 def downloadAll(self):
  global g_queueURL
  global g_totalcount
  i=0
  while i<len(g_queueURL):
   j=0
   while j<self.threadnum and i+j < len(g_queueURL):
    g_totalcount+=1
    threadresult=self.download(g_queueURL[i+j],str(g_totalcount)+'.html',j)
    if threadresult!=None:
     print 'Thread started:',i+j,'--File number =',g_totalcount
    j+=1
   i+=j
   for thread in self.threadpool:
    thread.join(30)
   threadpool=[]
  g_queueURL=[]
 def download(self,url,filename,tid):
  crawthread=CrawlerThread(url,filename,tid)
  self.threadpool.append(crawthread)
  crawthread.start()
 def updateQueueURL(self):
  global g_queueURL
  global g_existURL
  newUrlList=[]
  for content in g_pages:
   newUrlList+=self.getUrl(content)
  g_queueURL=list(set(newUrlList)-set(g_existURL)) 
 def getUrl(self,content):
  reg=r'"(http://.+?)"'
  regob=re.compile(reg,re.DOTALL)
  urllist=regob.findall(content)
  return urllist
class CrawlerThread(threading.Thread):
 def __init__(self,url,filename,tid):
  threading.Thread.__init__(self)
  self.url=url
  self.filename=filename
  self.tid=tid
 def run(self):
  global g_mutex
  global g_failedURL
  global g_queueURL
  try:
   page=urllib.urlopen(self.url)
   html=page.read()
   fout=file(self.filename,'w')
   fout.write(html)
   fout.close()
  except Exception,e:
   g_mutex.acquire()
   g_existURL.append(self.url)
   g_failedURL.append(self.url)
   g_mutex.release()
   print 'Failed downloading and saving',self.url
   print e
   return None
  g_mutex.acquire()
  g_pages.append(html)
  g_existURL.append(self.url)
  g_mutex.release()
if __name__=="__main__":
 url=raw_input("请输入url入口:\n")
 threadnum=int(raw_input("设置线程数:"))
 crawlername="小小爬虫"
 crawler=Crawler(crawlername,url,threadnum)
 crawler.craw()

Мы рекомендуем питон обучение сайтов , чтобы увидеть , как старая программа , чтобы узнать! Из базового сценария питона, рептилий, Джанго, интеллектуального анализа данных, методы программирования, опыт работы, а также старший тщательное изучение малых партнеров питона в бою заканчивая информационными проектами нулевой основе! Python программисты имеют обычный день , чтобы объяснить эту технологию, и поделиться некоторыми методами обучения необходимо обратить внимание на мелкие детали
выше этой поддержки многопоточности пример питон рептилии небольших серии , чтобы разделить все содержимое всех, и я надеюсь дать вам ссылку