ClickHouse/dbms/src/DataStreams/MergingSortedBlockInputStream.cpp

112 lines
2.4 KiB
C++
Raw Normal View History

2012-07-25 19:53:43 +00:00
#include <queue>
#include <DB/DataStreams/MergingSortedBlockInputStream.h>
namespace DB
{
Block MergingSortedBlockInputStream::readImpl()
{
if (!inputs.size())
return Block();
if (inputs.size() == 1)
return inputs[0]->read();
/// Читаем первые блоки, инициализируем очередь.
if (first)
{
first = false;
size_t i = 0;
for (Blocks::iterator it = source_blocks.begin(); it != source_blocks.end(); ++it, ++i)
{
if (*it)
continue;
*it = inputs[i]->read();
if (!*it)
continue;
if (!num_columns)
num_columns = source_blocks[0].columns();
cursors[i] = SortCursorImpl(*it, description);
queue.push(SortCursor(&cursors[i]));
2012-07-25 19:53:43 +00:00
}
}
/// Инициализируем результат.
size_t merged_rows = 0;
Block merged_block;
ColumnPlainPtrs merged_columns;
/// Клонируем структуру первого непустого блока источников.
Blocks::const_iterator it = source_blocks.begin();
for (; it != source_blocks.end(); ++it)
2012-07-25 20:22:39 +00:00
{
2012-07-25 19:53:43 +00:00
if (*it)
2012-07-25 20:22:39 +00:00
{
2012-07-25 19:53:43 +00:00
merged_block = it->cloneEmpty();
2012-07-25 20:22:39 +00:00
break;
}
}
2012-07-25 19:53:43 +00:00
/// Если все входные блоки пустые.
if (it == source_blocks.end())
return Block();
for (size_t i = 0; i < num_columns; ++i)
merged_columns.push_back(&*merged_block.getByPosition(i).column);
/// Вынимаем строки в нужном порядке и кладём в merged_block, пока строк не больше max_block_size
while (!queue.empty())
{
SortCursor current = queue.top();
queue.pop();
for (size_t i = 0; i < num_columns; ++i)
merged_columns[i]->insert((*current->all_columns[i])[current->pos]);
2012-07-25 19:53:43 +00:00
if (!current->isLast())
{
current->next();
queue.push(current);
}
2012-07-25 19:53:43 +00:00
else
{
/// Достаём из соответствующего источника следующий блок, если есть.
size_t i = 0;
size_t size = cursors.size();
2012-07-25 19:53:43 +00:00
for (; i < size; ++i)
{
if (&cursors[i] == current.impl)
2012-07-25 19:53:43 +00:00
{
source_blocks[i] = inputs[i]->read();
if (source_blocks[i])
{
cursors[i].reset(*it);
queue.push(SortCursor(&cursors[i]));
2012-07-25 19:53:43 +00:00
}
break;
}
}
if (i == size)
throw Exception("Logical error in MergingSortedBlockInputStream", ErrorCodes::LOGICAL_ERROR);
}
++merged_rows;
if (merged_rows == max_block_size)
return merged_block;
}
inputs.clear();
return merged_block;
}
}