#pragma once #include #include #include #include #include #include #include namespace DB { /** Превращает выражение из синтаксического дерева в последовательность действий для его выполнения. */ class ExpressionAnalyzer : private boost::noncopyable { public: ExpressionAnalyzer(const ASTPtr & ast_, const Context & context_, size_t subquery_depth_ = 0) : ast(ast_), context(context_), settings(context.getSettings()), subquery_depth(subquery_depth_), columns(context.getColumns()), storage(getTable()) { init(); } /// columns - список известных столбцов (которых можно достать из таблицы). ExpressionAnalyzer(const ASTPtr & ast_, const Context & context_, const NamesAndTypesList & columns_, size_t subquery_depth_ = 0) : ast(ast_), context(context_), settings(context.getSettings()), subquery_depth(subquery_depth_), columns(columns_), storage(getTable()) { init(); } /// Есть ли в выражении агрегатные функции или секция GROUP BY или HAVING. bool hasAggregation() { return has_aggregation; } /// Получить список ключей агрегирования и описаний агрегатных функций, если в запросе есть GROUP BY. void getAggregateInfo(Names & key_names, AggregateDescriptions & aggregates); /// Получить набор столбцов, которые достаточно прочесть для вычисления выражения. Names getRequiredColumns(); /** Эти методы позволяют собрать цепочку преобразований над блоком, получающую значения в нужных секциях запроса. * Выполняют подзапросы в соответствующих частях запроса. * * Пример использования: * ExpressionActionsChain chain; * analyzer.appendWhere(chain); * chain.addStep(); * analyzer.appendSelect(chain); * analyzer.appendOrderBy(chain); * chain.finalize(); */ /// До агрегации: bool appendArrayJoin(ExpressionActionsChain & chain); bool appendWhere(ExpressionActionsChain & chain); bool appendGroupBy(ExpressionActionsChain & chain); void appendAggregateFunctionsArguments(ExpressionActionsChain & chain); /// После агрегации: bool appendHaving(ExpressionActionsChain & chain); void appendSelect(ExpressionActionsChain & chain); bool appendOrderBy(ExpressionActionsChain & chain); /// Удаляет все столбцы кроме выбираемых SELECT, упорядочивает оставшиеся столбцы и переименовывает их в алиасы. void appendProjectResult(ExpressionActionsChain & chain); /// Если ast не запрос SELECT, просто получает все действия для вычисления выражения. /// Если project_result, в выходном блоке останутся только вычисленные значения в нужном порядке, переименованные в алиасы. /// Иначе, из блока будут удаляться только временные столбцы. ExpressionActionsPtr getActions(bool project_result); /// Действия, которые можно сделать над пустым блоком: добавление констант и применение функций, зависящих только от констант. /// Не выполняет подзапросы. ExpressionActionsPtr getConstActions(); /// Если ast - запрос SELECT, получает имена (алиасы) и типы столбцов из секции SELECT. Block getSelectSampleBlock(); private: typedef std::set NamesSet; ASTPtr ast; ASTSelectQuery * select_query; const Context & context; Settings settings; size_t subquery_depth; /// Столбцы, которые упоминаются в выражении, но не были заданы в конструкторе. NameSet unknown_required_columns; /// Исходные столбцы. NamesAndTypesList columns; /// Столбцы после агрегации. Если нет агрегации, совпадает с columns. NamesAndTypesList aggregated_columns; /// Таблица, из которой делается запрос. Используется для sign-rewrite'а const StoragePtr storage; /// Имя поля Sign в таблице. Непусто, если нужно осуществлять sign-rewrite String sign_column_name; bool has_aggregation; NamesAndTypesList aggregation_keys; AggregateDescriptions aggregate_descriptions; typedef std::map Aliases; Aliases aliases; typedef std::set SetOfASTs; typedef std::map MapOfASTs; /// Столбцы, которые должны быть преобразованы из-за секции ARRAY JOIN NameSet array_joined_columns; /** Для getActionsImpl. * Стек из ExpressionActions, соответствующих вложенным лямбда-выражениям. * Новое действие нужно добавлять на самый высокий возможный уровень. * Например, в выражении "select arrayMap(x -> x + column1 * column2, array1)" * вычисление произведения нужно делать вне лямбда-выражения (оно не зависит от x), а вычисление суммы - внутри (зависит от x). */ struct ScopeStack { struct Level { ExpressionActionsPtr actions; NameSet new_columns; }; typedef std::vector Levels; Levels stack; Settings settings; ScopeStack(const ExpressionActions & actions, const Settings & settings_) : settings(settings_) { stack.push_back(Level()); stack.back().actions = new ExpressionActions(actions); const NamesAndTypesList & input_columns = actions.getSampleBlock().getColumnsList(); for (NamesAndTypesList::const_iterator it = input_columns.begin(); it != input_columns.end(); ++it) stack.back().new_columns.insert(it->first); } void pushLevel(const NamesAndTypesList & input_columns) { stack.push_back(Level()); Level & prev = stack[stack.size() - 2]; ColumnsWithNameAndType prev_columns = prev.actions->getSampleBlock().getColumns(); ColumnsWithNameAndType all_columns; NameSet new_names; for (NamesAndTypesList::const_iterator it = input_columns.begin(); it != input_columns.end(); ++it) { all_columns.push_back(ColumnWithNameAndType(NULL, it->second, it->first)); new_names.insert(it->first); stack.back().new_columns.insert(it->first); } for (ColumnsWithNameAndType::const_iterator it = prev_columns.begin(); it != prev_columns.end(); ++it) { if (!new_names.count(it->name)) all_columns.push_back(*it); } stack.back().actions = new ExpressionActions(all_columns, settings); } size_t getColumnLevel(const std::string & name) { for (int i = static_cast(stack.size()) - 1; i >= 0; --i) { if (stack[i].new_columns.count(name)) return i; } throw Exception("Unknown identifier: " + name, ErrorCodes::UNKNOWN_IDENTIFIER); } void addAction(const ExpressionActions::Action & action, const Names & additional_required_columns = Names()) { size_t level = 0; for (size_t i = 0; i < additional_required_columns.size(); ++i) level = std::max(level, getColumnLevel(additional_required_columns[i])); Names required = action.getNeededColumns(); for (size_t i = 0; i < required.size(); ++i) level = std::max(level, getColumnLevel(required[i])); Names added; stack[level].actions->add(action, added); stack[level].new_columns.insert(added.begin(), added.end()); for (size_t i = 0; i < added.size(); ++i) { const ColumnWithNameAndType & col = stack[level].actions->getSampleBlock().getByName(added[i]); for (size_t j = level + 1; j < stack.size(); ++j) stack[j].actions->addInput(col); } } ExpressionActionsPtr popLevel() { ExpressionActionsPtr res = stack.back().actions; stack.pop_back(); return res; } const Block & getSampleBlock() { return stack.back().actions->getSampleBlock(); } }; void init(); NamesAndTypesList::iterator findColumn(const String & name, NamesAndTypesList & cols); NamesAndTypesList::iterator findColumn(const String & name) { return findColumn(name, columns); } /// Проверяет является ли данный столбец результатом ARRAY JOIN bool isArrayJoinedColumnName(const String & name); /// Возвращает исходное имя столбца до применения к нему ARRAY JOIN String getOriginalNestedName(const String & name); void removeUnusedColumns(); /** Создать словарь алиасов. */ void createAliasesDict(ASTPtr & ast); /** Для узлов-звёздочек - раскрыть их в список всех столбцов. * Для узлов-литералов - подставить алиасы. * Для агрегатных функций - если нужно, сделать sign rewrite. */ void normalizeTree(); void normalizeTreeImpl(ASTPtr & ast, MapOfASTs & finished_asts, SetOfASTs & current_asts, std::string current_alias, bool in_sign_rewritten); /// Превратить перечисление значений или подзапрос в ASTSet. node - функция in или notIn. void makeSet(ASTFunction * node, const Block & sample_block); void getArrayJoinedColumns(); void getArrayJoinedColumnsImpl(ASTPtr ast); void addMultipleArrayJoinAction(ExpressionActions & actions); void getActionsImpl(ASTPtr ast, bool no_subqueries, bool only_consts, ScopeStack & actions_stack); void getRootActionsImpl(ASTPtr ast, bool no_subqueries, bool only_consts, ExpressionActions & actions); void getActionsBeforeAggregationImpl(ASTPtr ast, ExpressionActions & actions); /// Добавить агрегатные функции в aggregate_descriptions. /// Установить has_aggregation=true, если есть хоть одна агрегатная функция. void getAggregatesImpl(ASTPtr ast, ExpressionActions & actions); void getRequiredColumnsImpl(ASTPtr ast, NamesSet & required_columns, NamesSet & ignored_names); /// Получить таблицу, из которой идет запрос StoragePtr getTable(); /// Получить имя столбца Sign String getSignColumnName(); /// Проверить нужно ли переписывать агрегатные функции для учета Sign bool needSignRewrite(); /// Попробовать переписать агрегатную функцию для учета Sign bool considerSignRewrite(ASTPtr & ast); ASTPtr createSignColumn(); /// Заменить count() на sum(Sign) ASTPtr rewriteCount(const ASTFunction * node); /// Заменить sum(x) на sum(x * Sign) ASTPtr rewriteSum(const ASTFunction * node); /// Заменить avg(x) на sum(Sign * x) / sum(Sign) ASTPtr rewriteAvg(const ASTFunction * node); void initChain(ExpressionActionsChain & chain, NamesAndTypesList & columns); void assertSelect(); void assertAggregation(); void assertArrayJoin(); }; }