Update: Mesos Executer für Apache Airflow

03. September 2020 Andreas Peters

Ich habe unseren neuen Mesos Executor für Apache Airflow nochmals aktualisiert. Auch steht dieser nun nicht nur für Airflow Version 2.0.0 sondern auch für die aktuelle Stable Version 1.10.12 zur Verfügung.

Apache Aiflow Logo

Für die Airflow 2.0.0 habe ich ein PR erstellt, um den Mesos Executor in die Releaseplannung für eine 2.x Version zu bekommen. Für Airflow 1.x steht der Mesos Executor im Git Repo zur Verfügung. Da ich bislang noch keine Dokumentation zur Installation erstellt habe, bitte ich um eine kurze Kontaktaufnahme im Support Chat.

Mit dem aktualisierten Mesos Executor, habe ich nun auch unsere Python Library “avmesos” eingeführt. Diese ist ein Fork von “mesoshttp” und beinhaltet zum einen LTS seitens AVENTER UG (haftungsbeschränkt) als auch die Möglichkeit selfsigned SSL Certificates zu akzeptieren.

Mesos Task
Airflow Task scheduled in Mesos

Wenn auch Sie Interesse an der Nutzung und/oder der Weiterentwicklung des MesosExecuter haben, dann freuen wir uns über eine Kontaktaufnahme.

Andreas Peters