Funções de Janela no Flink: Redução, Agregação e Processamento Detalhados

1. Utilizando a função ReduceFunction A função ReduceFunction combina dois elementos para produzir um elemento do mesmo tipo. Ela é executada de forma incremental, após a função KeyBy. package flink.java.test; import org.apache.flink.api.common.functions.ReduceFunction; import org.apache.flink.api.java.tuple.Tuple3; import org.apache.flink.st ...

Publicado em 7-8 03:42

Fundamentos da API DataStream no Apache Flink

Componentes Básicos de um Programa Flink Um aplicativo Flink processa transformações em fluxos de dados (DataStreams). Sua estrutura essencial inclui: Ambiente de Execução Criação do Ambiente import org.apache.flink.streaming.api.scala._ val ambiente = StreamExecutionEnvironment.getExecutionEnvironment getExecutionEnvironment: Retorna ambien ...

Publicado em 6-13 08:22

Mecanismo de Tolerância a Falhas no Flink: Savepoints e Checkpoints

Configuração Comum de Checkpoints no Flink // Configuração de checkpoints ExecutionEnvironment ambienteExecucao = ...; ambienteExecucao.enableCheckpointing(180000); // Habilita checkpoint a cada 180000ms CheckpointConfig configuracaoCheckpoint = ambienteExecucao.getCheckpointConfig(); configuracaoCheckpoint.setMinPauseBetweenCheckpoints(50000 ...

Publicado em 6-1 20:21