Threading Datenbankprobleme in Sellerie Aufgaben mit Eventlet

Question

Ich habe ein Projekt unter dev VM 'Ubuntu/trusty'. Ich benutze virtualenv mit den folgenden Paketen:

celery 3.1.23 
eventlet 0.18.4 
django 1.8.15 
mysqlclient 1.3.9 

Python-Version ist 3.4.3. MySql-Version ist 5.5.

Ich benutze Supervisor mit eventlet als Arbeiter für laufen einige Dienste und Sellerie Aufgaben unter ihnen. Dies ist der Teil der Konfiguration des supervisor:

[program:celery-worker-default] 
command=/home/vagrant/.virtualenvs/meridian/bin/python /vagrant/meridian/meridian/manage.py celery worker --loglevel=INFO -P eventlet -c 3 -Q default -E -n default.queue 
directory=/vagrant/meridian/meridian 
user=vagrant 
autostart=true 
autorestart=true 
stdout_logfile=/var/log/supervisor/celery-worker-default-stdout.log 
stderr_logfile=/var/log/supervisor/celery-worker-default-stderr.log 
priority=999 
stdout_logfile_maxbytes=10MB 
stdout_logfile_backups=5 
stderr_logfile_maxbytes=10MB 
stderr_logfile_backups=5 

Wenn Aufgaben ausgeführt werden sie mit dem folgenden Stack-Trace fehlschlagen:

Traceback (most recent call last): 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/celery/app/trace.py", line 231, in trace_task 
    loader_task_init(uuid, task) 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/djcelery/loaders.py", line 114, in on_task_init 
    self.close_database() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/djcelery/loaders.py", line 85, in close_database 
    return self._close_database() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/djcelery/loaders.py", line 76, in _close_database 
    close() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/django/db/__init__.py", line 64, in close_old_connections 
    conn.close_if_unusable_or_obsolete() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/django/db/backends/base/base.py", line 403, in close_if_unusable_or_obsolete 
    self.close() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/django/db/backends/base/base.py", line 191, in close 
    self.validate_thread_sharing() 
    File "/home/vagrant/.virtualenvs/meridian/lib/python3.4/site-packages/django/db/backends/base/base.py", line 421, in validate_thread_sharing 
    % (self.alias, self._thread_ident, thread.get_ident())) 
django.db.utils.DatabaseError: DatabaseWrapper objects created in a thread can only be used in that same thread. The object with alias 'default' was created in thread id 140089123953704 and this is thread id 140088751748512. 

Alle Aufgaben, die DB-Operationen enthält ausfällt.

Ich versuchte select_for_update() und mit atomaren() zu verwenden: in den Aufgaben Körper, aber ohne Erfolg.

Auch ich suchte im Internet nach diesem Problem, aber habe keine Lösung gefunden.

Weiß jemand, wie man das löst?

Answer 1

Ich habe eine Antwort gefunden. Das Problem war, dass ich verwendet Sellerie unter dem manage.py managment Skript auszuführen:

[program:celery-worker-default] 
command=/home/vagrant/.virtualenvs/meridian/bin/python /vagrant/meridian/meridian/manage.py celery worker --loglevel=INFO -P eventlet -c 3 -Q default -E -n default.queue 

ich diese Zeile auf diese Weise neu geschrieben haben:

[program:celery-worker-default] 
command=bash -c "/vagrant/meridian/meridian/start_default_queue.sh" 

Und diese den Inhalt start_default_queue. sh:

source /usr/share/virtualenvwrapper/virtualenvwrapper.sh 
source /home/vagrant/.virtualenvs/meridian/bin/activate 
workon meridian 
exec celery worker --loglevel=INFO -P eventlet -c 3 -Q default -E -n default.queue 

ich weiß nicht, warum, aber laufen Sellerie worke r direkt dieses mysteriöse Problem behoben.

Answer 2

Finden Sie etwas, wie on_load Haken für Sellerie und den folgenden Code dort:

import eventlet 
eventlet.monkey_patch(MySQLdb=True) 

Es hat vor jedem Django Code ausgeführt werden.