ClickHouse/dbms/src/DataStreams/SummingSortedBlockInputStream.cpp

122 lines
3.0 KiB
C++
Raw Normal View History

2013-10-01 18:09:31 +00:00
#include <DB/DataStreams/SummingSortedBlockInputStream.h>
namespace DB
{
void SummingSortedBlockInputStream::insertCurrentRow(ColumnPlainPtrs & merged_columns)
{
for (size_t i = 0; i < num_columns; ++i)
merged_columns[i]->insert(current_row[i]);
}
Block SummingSortedBlockInputStream::readImpl()
{
if (!children.size())
return Block();
if (children.size() == 1)
return children[0]->read();
Block merged_block;
ColumnPlainPtrs merged_columns;
init(merged_block, merged_columns);
if (merged_columns.empty())
return Block();
/// Дополнительная инициализация.
if (current_row.empty())
{
current_row.resize(num_columns);
current_key.resize(description.size());
next_key.resize(description.size());
/// Заполним номера столбцов, которые должны быть просуммированы.
for (size_t i = 0; i < num_columns; ++i)
{
ColumnWithNameAndType & column = merged_block.getByPosition(i);
/// Оставляем только числовые типы. При чём, даты и даты-со-временем здесь такими не считаются.
if (!column.type->isNumeric() || column.type->getName() == "Date" || column.type->getName() == "DateTime")
continue;
/// Входят ли в PK?
SortDescription::const_iterator it = description.begin();
for (; it != description.end(); ++it)
if (it->column_name == column.name || (it->column_name.empty() && it->column_number == i))
break;
if (it != description.end())
continue;
column_numbers_to_sum.push_back(i);
}
}
if (has_collation)
merge(merged_block, merged_columns, queue_with_collation);
else
merge(merged_block, merged_columns, queue);
return merged_block;
}
template<class TSortCursor>
void SummingSortedBlockInputStream::merge(Block & merged_block, ColumnPlainPtrs & merged_columns, std::priority_queue<TSortCursor> & queue)
{
size_t merged_rows = 0;
/// Вынимаем строки в нужном порядке и кладём в merged_block, пока строк не больше max_block_size
while (!queue.empty())
{
TSortCursor current = queue.top();
queue.pop();
setPrimaryKey(next_key, current);
if (next_key != current_key)
{
/// Запишем данные для предыдущей группы.
2013-10-01 20:38:01 +00:00
if (!current_key[0].isNull())
{
++merged_rows;
insertCurrentRow(merged_columns);
}
2013-10-01 18:09:31 +00:00
current_key = next_key;
next_key.resize(description.size());
setRow(current_row, current);
}
else
{
addRow(current_row, current);
}
if (!current->isLast())
{
current->next();
queue.push(current);
}
else
{
/// Достаём из соответствующего источника следующий блок, если есть.
fetchNextBlock(current, queue);
}
if (merged_rows >= max_block_size)
2013-10-01 20:38:01 +00:00
return;
2013-10-01 18:09:31 +00:00
}
/// Запишем данные для последней группы.
++merged_rows;
insertCurrentRow(merged_columns);
children.clear();
}
}