著者|ルパート・トーマス
翻訳|ケイ隠し
編集|ジェーン
ソース| AI技術のベースキャンプ(ID:rgznai100)
Metaflowネットフリックスは、2019年12月に正式オープンで、科学的データの分野では、Pythonのフレームワークで開発されています。報告によると、Metaflowデータ科学者はそこに描画することにより一連のステップで構築するパイプラインを処理し、拡張性とバージョン管理に直面している課題のいくつかを解決します。Metaflowは、より簡単に実行するために、クラウドラインローカルリソースに移動します(ただし現在はAWSクラウドをサポートする)ことができます。EDノードのフローチャートの各ステップは、独立して動作し、ユニークな依存性を有し、Metaflowは、ノード間の内部通信を処理します。今日、我々はMetaflowを紹介し、我々は手助けをしたいです。
Metaflowプロフィール
Netflixの内部Metaflowは、このような広告配信、ビデオ符号化を最適化するように機械学習タスクのすべての面で使用されてきました。Metaflowために、それによって、展開のスピードを高め、モデルの展開の効率化、モデル全体の開発、展開、更新プロセスより体系を改善することが表示されます。
データ科学者のために、彼らはより直接的にモデル設計のパフォーマンスに関連する作業を懸念しているモデルは、そのような環境として、本番環境でアップグレードすることができることを確認するために、迅速な展開モデルのためのモデルエンジニアリング、と希望を特徴と頼りにしたくありません、バージョン管理、データウェアハウス管理、およびプロセス内の他の基本作業のエネルギーの浪費は、Metaflowは、この問題を解決することで表示されます。
Metaflowは簡素化や、データの科学者は、より迅速かつ容易に、実際のエンジニアリング環境でモデルの性能とパフォーマンスを向上させるために集中するモデルを展開できるようにも、基本的なタスクを自動化し、生産性を向上させることができます。だから、これは人間中心のフレームワークです。最近、ネットフリックスはまた、以下のことを明らかにしたMetaflowは、プロジェクトの中央値は、展開時間を学習Netflixのマシンはわずか7日間に4ヶ月から減少しています。次の作品Metaflowと機能に焦点を当てます。
基本的な動作原理
如上图,可以用一个有向非循环图来表示工作流程,图中的每个节点都表示一个流程中的一个阶段,这些阶段可以是任意的 Python 代码,在上图的例子中,Metaflow 并行的训练两个不同版本的模型,并选择性能最好的那个。这是一种单机并行处理的方式,类似于 Python 中的 multiprocessing 包。如果要部署到云资源,只需要额外指定一个命令行参数 --with batch,即可告知 Metaflow 在云上运行代码。目前只支持亚马逊的 Web 服务器,不过应该很快就会支持更多云服务器。
每个阶段的末尾都有一个检查点,可以在以后的阶段中从任意检查点恢复执行,以帮助调试。但是你不能逐行检查您的代码。
版本控制
机器学习的版本控制颇具挑战性,因此 Metaflow 也特别照顾了这个问题。每个步骤的运行代码和数据都是散列(hash)的,图中每个节点的执行都被记录下来,并且超参数设置和运行结果都被存储:
from metaflow import FlowSpec, Parameter, step
class FitModelFlow(FlowSpec):
alpha = Parameter('alpha',
help='Learning rate',
default=0.01)
@step
def start(self):
print('alpha is %f' % self.alpha)
self.data = load_data()
self.next(self.fit)
@step
def fit(self):
self.model = fit(self.data)
self.next(self.end)
@step
def end(self):
print(f'Results for LR={self.alpha}: {eval(self.model)}')
if __name__ == '__main__':
FitModelFlow()
超参数的设置可以很容易地通过命令行参数来完成:
python metaflow_parameter.py run --alpha 0.001
元数据以 JSON 格式存储在文件系统中,可以访问存储在任何阶段的变量数据,也可以很容易地获取最后一次成功运行的结果。
run = Flow(flow_name).latest_successful_run
依赖管理
Metaflow 还提供了依赖管理机制,可以在图阶段或节点阶段通过装饰器来指定,并且可以指定特定的Python版本或特定的包:
from metaflow import FlowSpec, step, conda, conda_base
@conda_base(python='3.6.5')
class FitModelFlow(FlowSpec):
@step
def start(self):
self.data = load_data()
@conda(libraries={"scikit-learn": "0.19.2"})
@step
def fit(self):
from sklearn import svm
self.model = svm.LinearSVC( ... )
# ...
例如可以从命令行运行时指定 conda 环境标志:
python metaflow_conda.py --environment=conda run
开始使用Metaflow
可以通过pip命令来安装metaflow:
pip install metaflow
更多教程和详细介绍可以参考官方文档:
https://docs.metaflow.org/getting-started/tutorials
原文链接:
https://towardsdatascience.com/what-exactly-is-metaflow-c007e5b75b5
你点的每个“在看”,我都认真当成了喜欢