2016-11-29 5 views
0

私は、データベースからテーブルを照会し、それをカフカのトピックにフィードして取得したバッチのフリンクバッチ処理を行うJavaアプリケーションを持っています。どうすればこれを定期的に予定していますか?フリンクスケジューラはありますか?たとえば、私のJavaアプリケーションはバックグラウンドで実行し続けなければならず、フリンクスケジューラはデータベースからテーブルを定期的に照会してバッチプロセスをフリップしてkafkaにフィードする必要があります(バッチ処理とkafkaへのフィードはアプリケーションの一部です)。もし誰かがこれについての指針を持っているなら、助けてください。定期的にフリンクのバッチ処理をスケジュールする方法

答えて

1

Flinkはジョブスケジューラを提供しません。

継続的に動作するFlink DataStreamアプリケーションでユースケースを実装することを検討しましたか?定期的にデータベースに照会するSourceFunctionを実装できます。

連続ストリーミングアプリケーションは、(スケジューラなし、何かがうまくいかない場合の障害処理なし)、「バッチ」の境界を越えた一貫したビューの利点があります。欠点は、ジョブが常にリソースを消費していることです(Flinkは低負荷で自動的に縮小できません)。

+0

ありがとう! DataStreamを使用するのは望ましくありませんでした。なぜなら、私たちのアプリケーションと要件には非効率的だからです。したがって、DataSetに移動しました。 Flinkスケジューラがない場合、おそらく私のFlinkアプリケーションを実行する単純なJavaスケジューラを実行する必要があります。 – flinkexplorer

関連する問題