2011-08-27 22:43:31 +00:00
|
|
|
|
#pragma once
|
|
|
|
|
|
2012-05-09 08:16:09 +00:00
|
|
|
|
#include <boost/function.hpp>
|
|
|
|
|
|
2012-12-25 17:25:44 +00:00
|
|
|
|
#include <statdaemons/Stopwatch.h>
|
2011-08-27 22:43:31 +00:00
|
|
|
|
|
2011-09-05 00:51:25 +00:00
|
|
|
|
#include <DB/Core/Names.h>
|
|
|
|
|
|
2012-12-25 17:25:44 +00:00
|
|
|
|
#include <DB/Interpreters/Limits.h>
|
|
|
|
|
|
2011-08-27 22:43:31 +00:00
|
|
|
|
#include <DB/DataStreams/IBlockInputStream.h>
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
namespace DB
|
|
|
|
|
{
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
/// Информация для профайлинга.
|
|
|
|
|
struct BlockStreamProfileInfo
|
|
|
|
|
{
|
|
|
|
|
bool started;
|
2012-12-25 17:25:44 +00:00
|
|
|
|
Stopwatch work_stopwatch; /// Время вычислений (выполнения функции read())
|
|
|
|
|
Stopwatch total_stopwatch; /// Время с учётом ожидания
|
2011-08-27 22:43:31 +00:00
|
|
|
|
|
|
|
|
|
size_t rows;
|
|
|
|
|
size_t blocks;
|
|
|
|
|
size_t bytes;
|
|
|
|
|
|
2011-09-26 01:50:32 +00:00
|
|
|
|
/// Информация о вложенных потоках - для выделения чистого времени работы.
|
|
|
|
|
typedef std::vector<const BlockStreamProfileInfo *> BlockStreamProfileInfos;
|
|
|
|
|
BlockStreamProfileInfos nested_infos;
|
|
|
|
|
|
2011-09-05 00:51:25 +00:00
|
|
|
|
String column_names;
|
|
|
|
|
|
2011-08-27 22:43:31 +00:00
|
|
|
|
BlockStreamProfileInfo() : started(false), rows(0), blocks(0), bytes(0) {}
|
|
|
|
|
|
2012-05-17 19:15:53 +00:00
|
|
|
|
void update(Block & block);
|
2011-08-27 22:43:31 +00:00
|
|
|
|
void print(std::ostream & ostr) const;
|
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
|
2012-05-09 08:16:09 +00:00
|
|
|
|
/** Смотрит за тем, как работает источник блоков.
|
2011-08-27 22:43:31 +00:00
|
|
|
|
* Позволяет получить информацию для профайлинга:
|
|
|
|
|
* строк в секунду, блоков в секунду, мегабайт в секунду и т. п.
|
2012-05-09 08:16:09 +00:00
|
|
|
|
* Позволяет остановить чтение данных (во вложенных источниках).
|
2011-08-27 22:43:31 +00:00
|
|
|
|
*/
|
2011-09-04 21:23:19 +00:00
|
|
|
|
class IProfilingBlockInputStream : public IBlockInputStream
|
2011-08-27 22:43:31 +00:00
|
|
|
|
{
|
|
|
|
|
public:
|
2013-01-23 17:38:03 +00:00
|
|
|
|
IProfilingBlockInputStream(StoragePtr owned_storage_ = StoragePtr()) : IBlockInputStream(owned_storage_), is_cancelled(false) {}
|
2012-10-17 19:55:56 +00:00
|
|
|
|
|
2011-08-27 22:43:31 +00:00
|
|
|
|
Block read();
|
2011-09-04 21:23:19 +00:00
|
|
|
|
|
2012-08-23 23:49:28 +00:00
|
|
|
|
/// Получить информацию о скорости выполнения.
|
2011-08-27 22:43:31 +00:00
|
|
|
|
const BlockStreamProfileInfo & getInfo() const;
|
|
|
|
|
|
2012-10-20 05:54:35 +00:00
|
|
|
|
|
2012-10-18 19:24:46 +00:00
|
|
|
|
/** Установить колбэк прогресса выполнения.
|
|
|
|
|
* Колбэк пробрасывается во все источники.
|
|
|
|
|
* По-умолчанию, он вызывается для листовых источников, после каждого блока.
|
|
|
|
|
* (Но это может быть переопределено в методе progress())
|
|
|
|
|
* Функция принимает количество строк в последнем блоке, количество байт в последнем блоке.
|
|
|
|
|
* Следует иметь ввиду, что колбэк может вызываться из разных потоков.
|
|
|
|
|
*/
|
|
|
|
|
void setProgressCallback(ProgressCallback callback);
|
|
|
|
|
|
|
|
|
|
virtual void progress(Block & block);
|
|
|
|
|
|
|
|
|
|
|
2012-10-17 19:55:56 +00:00
|
|
|
|
/** Попросить прервать получение данных как можно скорее.
|
|
|
|
|
* По-умолчанию - просто выставляет флаг is_cancelled и просит прерваться всех детей.
|
2012-11-10 05:13:46 +00:00
|
|
|
|
* Эта функция может вызываться несколько раз, в том числе, одновременно из разных потоков.
|
2012-10-17 19:55:56 +00:00
|
|
|
|
*/
|
|
|
|
|
virtual void cancel();
|
|
|
|
|
|
2012-10-18 19:24:46 +00:00
|
|
|
|
/** Требуется ли прервать получение данных.
|
2012-10-20 05:54:35 +00:00
|
|
|
|
*/
|
2012-10-18 19:24:46 +00:00
|
|
|
|
bool isCancelled()
|
|
|
|
|
{
|
|
|
|
|
return is_cancelled;
|
|
|
|
|
}
|
2012-05-17 19:15:53 +00:00
|
|
|
|
|
2012-12-25 17:25:44 +00:00
|
|
|
|
/// Используется подмножество ограничений из Limits.
|
|
|
|
|
struct LocalLimits
|
|
|
|
|
{
|
|
|
|
|
size_t max_rows_to_read;
|
|
|
|
|
size_t max_bytes_to_read;
|
|
|
|
|
Limits::OverflowMode read_overflow_mode;
|
|
|
|
|
|
|
|
|
|
Poco::Timespan max_execution_time;
|
|
|
|
|
Limits::OverflowMode timeout_overflow_mode;
|
|
|
|
|
|
|
|
|
|
/// В строчках в секунду.
|
|
|
|
|
size_t min_execution_speed;
|
|
|
|
|
/// Проверять, что скорость не слишком низкая, после прошествия указанного времени.
|
|
|
|
|
Poco::Timespan timeout_before_checking_execution_speed;
|
|
|
|
|
|
|
|
|
|
LocalLimits()
|
|
|
|
|
: max_rows_to_read(0), max_bytes_to_read(0), read_overflow_mode(Limits::THROW),
|
|
|
|
|
max_execution_time(0), timeout_overflow_mode(Limits::THROW),
|
|
|
|
|
min_execution_speed(0), timeout_before_checking_execution_speed(0)
|
|
|
|
|
{
|
|
|
|
|
}
|
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
/** Установить ограничения для проверки на каждый блок. */
|
|
|
|
|
void setLimits(const LocalLimits & limits_)
|
|
|
|
|
{
|
|
|
|
|
limits = limits_;
|
|
|
|
|
}
|
|
|
|
|
|
2012-05-21 20:38:34 +00:00
|
|
|
|
protected:
|
2011-08-27 22:43:31 +00:00
|
|
|
|
BlockStreamProfileInfo info;
|
2012-10-17 19:55:56 +00:00
|
|
|
|
volatile bool is_cancelled;
|
2012-05-09 15:15:45 +00:00
|
|
|
|
ProgressCallback progress_callback;
|
2012-10-20 02:10:47 +00:00
|
|
|
|
|
2012-12-25 17:25:44 +00:00
|
|
|
|
LocalLimits limits;
|
|
|
|
|
|
2012-10-20 02:10:47 +00:00
|
|
|
|
/// Наследники должны реализовать эту функцию.
|
|
|
|
|
virtual Block readImpl() = 0;
|
2011-08-27 22:43:31 +00:00
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
}
|