Ray:新興AI應用的分布式框架

摘要

下一代AI應用程序將不斷與環境交互，並從這些交互中學習。這些應用程序在性能和靈活性方麵提出了新的和苛刻的係統需求。在本文中，我們考慮了這些需求，並提出了Ray-a分布式係統來解決這些需求。Ray實現了一個統一的接口，該接口可以表示任務並行和基於參與者的計算，由單個動態執行引擎支持。為了滿足性能要求，Ray使用分布式調度器和分布式容錯存儲來管理係統的控製狀態。在我們的實驗中，我們演示了在一些具有挑戰性的強化學習應用中，可擴展到每秒180萬個任務和比現有專業係統更好的性能。