WedX - журнал о программировании и компьютерных науках

Многопроцессорная обработка Python, похоже, не использует более одного ядра

Я хочу использовать многопроцессорность Python для запуска поиска по сетке для прогностической модели. Когда я смотрю на использование ядра, кажется, что всегда используется только одно ядро. Любая идея, что я делаю неправильно?

import multiprocessing
from sklearn import svm
import itertools

#first read some data
#X will be my feature Numpy 2D array
#y will be my 1D Numpy array of labels

#define the grid        
C = [0.1, 1]
gamma = [0.0]
params = [C, gamma]
grid = list(itertools.product(*params))
GRID_hx = []

def worker(par, grid_list):
    #define a sklearn model
    clf = svm.SVC(C=g[0], gamma=g[1],probability=True,random_state=SEED)
    #run a cross validation function: returns error
    ll = my_cross_validation_function(X, y, model=clf, n=1, test_size=0.2)
    print(par, ll)
    grid_list.append((par, ll))


if __name__ == '__main__':
   manager = multiprocessing.Manager()
   GRID_hx = manager.list()
   jobs = []
   for g in grid:
      p = multiprocessing.Process(target=worker, args=(g,GRID_hx))
      jobs.append(p)
      p.start()
      p.join()

   print("\n-------------------")
   print("SORTED LIST")
   print("-------------------")
   L = sorted(GRID_hx, key=itemgetter(1))
   for l in L[:5]:
      print l
22.04.2015

  • После того, как вы исправите это соединение, вы также можете прочитать о глобальной блокировке интерпретатора (GIL). Python не может выполнять код Python в двух потоках одновременно. Однако в случае библиотек C для python, таких как numpy, эти библиотеки могут решить отказаться от GIL при выполнении очень ресурсоемких задач. Если вы хотите эффективно использовать несколько ядер, убедитесь, что большая часть вашей работы выполняется в одной из тех библиотек C, которые сбрасывают GIL во время работы. 22.04.2015
  • Примечание. Вместо этого вы, вероятно, захотите использовать Pool. ручного создания и присоединения к каждому отдельному процессу. Просто выполните pool.map(worker, args=zip(grid, [GRID_hx]*len(grid))]), и это автоматически запустит разные процессы (параллельно) и присоединится к ним. 22.04.2015
  • @CortAmmon То, что вы пишете, совершенно не имеет значения. Он использует многопроцессорную обработку, а не многопотоковую поточность, поэтому GIL не играет никакой роли в этом коде. Кроме того: тот факт, что он использует multiprocessing вместо threading, вероятно, означает, что он уже знает о GIL. 22.04.2015
  • @Бакуриу, ты абсолютно прав. Мне жаль, что я пропустил это! 22.04.2015

Ответы:


1

Ваша проблема в том, что вы присоединяетесь к каждому заданию сразу же после его запуска:

for g in grid:
    p = multiprocessing.Process(target=worker, args=(g,GRID_hx))
    jobs.append(p)
    p.start()
    p.join()

join блокируется до тех пор, пока соответствующий процесс не завершит работу. Это означает, что ваш код запускает одновременно только один процесс, ждет его завершения, а затем запускает следующий.

Чтобы все процессы выполнялись параллельно, необходимо сначала запустить их все, а затем объединить их все:

jobs = []
for g in grid:
    p = multiprocessing.Process(target=worker, args=(g,GRID_hx))
    jobs.append(p)
    p.start()

for j in jobs:
    j.join()

Документация: ссылка

22.04.2015

2

Согласно документации, команда join() блокирует текущий поток до тех пор, пока указанный нить возвращается. Таким образом, вы в основном запускаете каждый поток в цикле for, а затем ждете его завершения, прежде чем перейти к следующей итерации.

Я бы предложил перенести соединения за пределы цикла!

22.04.2015

3

Я бы сказал :

for g in grid:
    g.p = multiprocessing.Process(target=worker, args=(g,GRID_hx))
    jobs.append(g.p)
    g.p.start()
for g in grid:
    g.p.join()

В настоящее время вы создаете задание, затем ждете, пока оно будет выполнено, а затем переходите к следующему.

22.04.2015
  • Строка p.start() вызовет NameError, поскольку p не существует. 15.02.2016
  • Новые материалы

    Я хотел выучить язык программирования MVC4, но не мог выучить его раньше, потому что это выглядит сложно…
    Просто начните и учитесь самостоятельно Я хотел выучить язык программирования MVC4, но не мог выучить его раньше, потому что он кажется мне сложным, и я бросил его. Это в основном инструмент..

    Лицензии с открытым исходным кодом: руководство для разработчиков и создателей
    В динамичном мире разработки программного обеспечения открытый исходный код стал мощной парадигмой, способствующей сотрудничеству, инновациям и прогрессу, движимому сообществом. В основе..

    Объяснение документов 02: BERT
    BERT представил двухступенчатую структуру обучения: предварительное обучение и тонкая настройка. Во время предварительного обучения модель обучается на неразмеченных данных с помощью..

    Как проанализировать работу вашего классификатора?
    Не всегда просто знать, какие показатели использовать С развитием глубокого обучения все больше и больше людей учатся обучать свой первый классификатор. Но как только вы закончите..

    Работа с цепями Маркова, часть 4 (Машинное обучение)
    Нелинейные цепи Маркова с агрегатором и их приложения (arXiv) Автор : Бар Лайт Аннотация: Изучаются свойства подкласса случайных процессов, называемых дискретными нелинейными цепями Маркова..

    Crazy Laravel Livewire упростил мне создание электронной коммерции (панель администратора и API) [Часть 3]
    Как вы сегодня, ребята? В этой части мы создадим CRUD для данных о продукте. Думаю, в этой части я не буду слишком много делиться теорией, но чаще буду делиться своим кодом. Потому что..

    Использование машинного обучения и Python для классификации 1000 сезонов новичков MLB Hitter
    Чему может научиться машина, глядя на сезоны новичков 1000 игроков MLB? Это то, что исследует это приложение. В этом процессе мы будем использовать неконтролируемое обучение, чтобы..


    Для любых предложений по сайту: [email protected]