#include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include namespace DB { namespace ErrorCodes { extern const int NUMBER_OF_ARGUMENTS_DOESNT_MATCH; extern const int ILLEGAL_INDEX; extern const int FUNCTION_IS_SPECIAL; } /** Вспомогательные функции: * * visibleWidth(x) - вычисляет приблизительную ширину при выводе значения в текстовом (tab-separated) виде на консоль. * * toTypeName(x) - получить имя типа * blockSize() - получить размер блока * materialize(x) - материализовать константу * ignore(...) - функция, принимающая любые аргументы, и всегда возвращающая 0. * sleep(seconds) - спит указанное количество секунд каждый блок. * * in(x, set) - функция для вычисления оператора IN * notIn(x, set) - и NOT IN. * * tuple(x, y, ...) - функция, позволяющая сгруппировать несколько столбцов * tupleElement(tuple, n) - функция, позволяющая достать столбец из tuple. * * arrayJoin(arr) - особая функция - выполнить её напрямую нельзя; * используется только чтобы получить тип результата соответствующего выражения. * * replicate(x, arr) - создаёт массив такого же размера как arr, все элементы которого равны x; * например: replicate(1, ['a', 'b', 'c']) = [1, 1, 1]. * * sleep(n) - спит n секунд каждый блок. * * bar(x, min, max, width) - рисует полосу из количества символов, пропорционального (x - min) и равного width при x == max. * * version() - возвращает текущую версию сервера в строке. * * finalizeAggregation(agg_state) - по состоянию агрегации получить результат. * * runningAccumulate(agg_state) - принимает состояния агрегатной функции и возвращает столбец со значениями, * являющимися результатом накопления этих состояний для множества строк блока, от первой до текущей строки. */ class FunctionCurrentDatabase : public IFunction { const String db_name; public: static constexpr auto name = "currentDatabase"; static FunctionPtr create(const Context & context) { return std::make_shared(context.getCurrentDatabase()); } explicit FunctionCurrentDatabase(const String & db_name) : db_name{db_name} { } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, const size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), db_name); } }; /// Get the host name. Is is constant on single server, but is not constant in distributed queries. class FunctionHostName : public IFunction { public: static constexpr auto name = "hostName"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } bool isDeterministicInScopeOfQuery() override { return false; } size_t getNumberOfArguments() const override { return 0; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /** convertToFullColumn needed because in distributed query processing, * each server returns its own value. */ void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = ColumnConstString(block.rows(), Poco::Net::DNS::hostName()).convertToFullColumn(); } }; class FunctionVisibleWidth : public IFunction { public: static constexpr auto name = "visibleWidth"; static FunctionPtr create(const Context & context) { return std::make_shared(); } bool hasSpecialSupportForNulls() const override { return true; } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override; }; /// Returns name of IDataType instance (name of data type). class FunctionToTypeName : public IFunction { public: static constexpr auto name = "toTypeName"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } bool hasSpecialSupportForNulls() const override { return true; } size_t getNumberOfArguments() const override { return 1; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), block.safeGetByPosition(arguments[0]).type->getName()); } }; /// Returns name of IColumn instance. class FunctionToColumnTypeName : public IFunction { public: static constexpr auto name = "toColumnTypeName"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } bool hasSpecialSupportForNulls() const override { return true; } size_t getNumberOfArguments() const override { return 1; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), block.safeGetByPosition(arguments[0]).column->getName()); } }; class FunctionBlockSize : public IFunction { public: static constexpr auto name = "blockSize"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } bool isDeterministicInScopeOfQuery() override { return false; } size_t getNumberOfArguments() const override { return 0; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { size_t size = block.rows(); block.safeGetByPosition(result).column = ColumnConstUInt64(size, size).convertToFullColumn(); } }; class FunctionRowNumberInBlock : public IFunction { public: static constexpr auto name = "rowNumberInBlock"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } bool isDeterministicInScopeOfQuery() override { return false; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { size_t size = block.rows(); auto column = std::make_shared(); auto & data = column->getData(); data.resize(size); for (size_t i = 0; i < size; ++i) data[i] = i; block.safeGetByPosition(result).column = column; } }; /** Инкрементальный номер блока среди вызовов этой функции. */ class FunctionBlockNumber : public IFunction { private: std::atomic block_number{0}; public: static constexpr auto name = "blockNumber"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } bool isDeterministicInScopeOfQuery() override { return false; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { size_t current_block_number = block_number++; block.safeGetByPosition(result).column = ColumnConstUInt64(block.rows(), current_block_number).convertToFullColumn(); } }; /** Incremental number of row within all blocks passed to this function. */ class FunctionRowNumberInAllBlocks : public IFunction { private: std::atomic rows{0}; public: static constexpr auto name = "rowNumberInAllBlocks"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } bool isDeterministicInScopeOfQuery() override { return false; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { size_t rows_in_block = block.rows(); size_t current_row_number = rows.fetch_add(rows_in_block); auto column = std::make_shared(); auto & data = column->getData(); data.resize(rows_in_block); for (size_t i = 0; i < rows_in_block; ++i) data[i] = current_row_number + i; block.safeGetByPosition(result).column = column; } }; class FunctionSleep : public IFunction { public: static constexpr auto name = "sleep"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } /// Do not sleep during query analysis. bool isSuitableForConstantFolding() const override { return false; } size_t getNumberOfArguments() const override { return 1; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { if (!typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of argument of function " + getName() + ", expected Float64", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { IColumn * col = block.safeGetByPosition(arguments[0]).column.get(); double seconds; size_t size = col->size(); if (ColumnConst * column = typeid_cast *>(col)) seconds = column->getData(); else if (ColumnConst * column = typeid_cast *>(col)) seconds = static_cast(column->getData()); else if (ColumnConst * column = typeid_cast *>(col)) seconds = static_cast(column->getData()); else if (ColumnConst * column = typeid_cast *>(col)) seconds = static_cast(column->getData()); else if (ColumnConst * column = typeid_cast *>(col)) seconds = static_cast(column->getData()); else if (ColumnConst * column = typeid_cast *>(col)) seconds = static_cast(column->getData()); else throw Exception("The argument of function " + getName() + " must be constant.", ErrorCodes::ILLEGAL_COLUMN); /// Не спим, если блок пустой. if (size > 0) usleep(static_cast(seconds * 1e6)); /// convertToFullColumn needed, because otherwise (constant expression case) function will not get called on each block. block.safeGetByPosition(result).column = ColumnConst(size, 0).convertToFullColumn(); } }; class FunctionMaterialize : public IFunction { public: static constexpr auto name = "materialize"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return arguments[0]; } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { const auto & src = block.safeGetByPosition(arguments[0]).column; if (auto converted = src->convertToFullColumnIfConst()) block.safeGetByPosition(result).column = converted; else block.safeGetByPosition(result).column = src; } }; template struct FunctionInName; template <> struct FunctionInName { static constexpr auto name = "in"; }; template <> struct FunctionInName { static constexpr auto name = "globalIn"; }; template <> struct FunctionInName { static constexpr auto name = "notIn"; }; template <> struct FunctionInName { static constexpr auto name = "globalNotIn"; }; template class FunctionIn : public IFunction { public: static constexpr auto name = FunctionInName::name; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 2; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { /// Second argument must be ColumnSet. ColumnPtr column_set_ptr = block.safeGetByPosition(arguments[1]).column; const ColumnSet * column_set = typeid_cast(&*column_set_ptr); if (!column_set) throw Exception("Second argument for function '" + getName() + "' must be Set; found " + column_set_ptr->getName(), ErrorCodes::ILLEGAL_COLUMN); Block block_of_key_columns; /// First argument may be tuple or single column. const ColumnTuple * tuple = typeid_cast(block.safeGetByPosition(arguments[0]).column.get()); const ColumnConstTuple * const_tuple = typeid_cast(block.safeGetByPosition(arguments[0]).column.get()); if (tuple) block_of_key_columns = tuple->getData(); else if (const_tuple) block_of_key_columns = static_cast(*const_tuple->convertToFullColumn()).getData(); else block_of_key_columns.insert(block.safeGetByPosition(arguments[0])); block.safeGetByPosition(result).column = column_set->getData()->execute(block_of_key_columns, negative); } }; FunctionPtr FunctionTuple::create(const Context & context) { return std::make_shared(); } DataTypePtr FunctionTuple::getReturnTypeImpl(const DataTypes & arguments) const { if (arguments.size() < 1) throw Exception("Function " + getName() + " requires at least one argument.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); return std::make_shared(arguments); } void FunctionTuple::executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) { Block tuple_block; size_t num_constants = 0; for (auto column_number : arguments) { const auto & elem = block.safeGetByPosition(column_number); if (elem.column->isConst()) ++num_constants; tuple_block.insert(elem); } if (num_constants == arguments.size()) { /** Return ColumnConstTuple rather than ColumnTuple of nested const columns. * (otherwise, ColumnTuple will not be understanded as constant in many places in code). */ TupleBackend tuple(arguments.size()); for (size_t i = 0, size = arguments.size(); i < size; ++i) tuple_block.getByPosition(i).column->get(0, tuple[i]); block.safeGetByPosition(result).column = std::make_shared(block.rows(), Tuple(tuple), block.safeGetByPosition(result).type); } else { ColumnPtr res = std::make_shared(tuple_block); /** If tuple is mixed of constant and not constant columns, * convert all to non-constant columns, * because many places in code expect all non-constant columns in non-constant tuple. */ if (num_constants != 0) if (auto converted = res->convertToFullColumnIfConst()) res = converted; block.safeGetByPosition(result).column = res; } } /** Extract element of tuple by constant index. The operation is essentially free. */ class FunctionTupleElement : public IFunction { public: static constexpr auto name = "tupleElement"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 2; } void getReturnTypeAndPrerequisitesImpl( const ColumnsWithTypeAndName & arguments, DataTypePtr & out_return_type, ExpressionActions::Actions & out_prerequisites) override { const ColumnConstUInt8 * index_col = typeid_cast(&*arguments[1].column); if (!index_col) throw Exception("Second argument to " + getName() + " must be a constant UInt8", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); size_t index = index_col->getData(); const DataTypeTuple * tuple = typeid_cast(&*arguments[0].type); if (!tuple) throw Exception("First argument for function " + getName() + " must be tuple.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (index == 0) throw Exception("Indices in tuples are 1-based.", ErrorCodes::ILLEGAL_INDEX); const DataTypes & elems = tuple->getElements(); if (index > elems.size()) throw Exception("Index for tuple element is out of range.", ErrorCodes::ILLEGAL_INDEX); out_return_type = elems[index - 1]->clone(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { const ColumnTuple * tuple_col = typeid_cast(block.safeGetByPosition(arguments[0]).column.get()); const ColumnConstTuple * const_tuple_col = typeid_cast(block.safeGetByPosition(arguments[0]).column.get()); const ColumnConstUInt8 * index_col = typeid_cast(block.safeGetByPosition(arguments[1]).column.get()); if (!tuple_col && !const_tuple_col) throw Exception("First argument for function " + getName() + " must be tuple.", ErrorCodes::ILLEGAL_COLUMN); if (!index_col) throw Exception("Second argument for function " + getName() + " must be UInt8 constant literal.", ErrorCodes::ILLEGAL_COLUMN); size_t index = index_col->getData(); if (index == 0) throw Exception("Indices in tuples is 1-based.", ErrorCodes::ILLEGAL_INDEX); if (tuple_col) { const Block & tuple_block = tuple_col->getData(); if (index > tuple_block.columns()) throw Exception("Index for tuple element is out of range.", ErrorCodes::ILLEGAL_INDEX); block.safeGetByPosition(result).column = tuple_block.safeGetByPosition(index - 1).column; } else { const TupleBackend & data = const_tuple_col->getData(); block.safeGetByPosition(result).column = static_cast(*block.safeGetByPosition(arguments[0]).type) .getElements()[index - 1] ->createConstColumn(block.rows(), data[index - 1]); } } }; class FunctionIgnore : public IFunction { public: static constexpr auto name = "ignore"; static FunctionPtr create(const Context & context) { return std::make_shared(); } bool isVariadic() const override { return true; } size_t getNumberOfArguments() const override { return 0; } bool hasSpecialSupportForNulls() const override { return true; } String getName() const override { return name; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), 0); } }; /** Функция indexHint принимает любое количество любых аргументов и всегда возвращает единицу. * * Эта функция имеет особый смысл (см. ExpressionAnalyzer, PKCondition): * - расположенные внутри неё выражения не вычисляются; * - но при анализе индекса (выбора диапазонов для чтения), эта функция воспринимается так же, * как если бы вместо её применения было бы само выражение. * * Пример: WHERE something AND indexHint(CounterID = 34) * - не читать и не вычислять CounterID = 34, но выбрать диапазоны, в которых выражение CounterID = 34 может быть истинным. * * Функция может использоваться в отладочных целях, а также для (скрытых от пользователя) преобразований запроса. */ class FunctionIndexHint : public IFunction { public: static constexpr auto name = "indexHint"; static FunctionPtr create(const Context & context) { return std::make_shared(); } bool isVariadic() const override { return true; } size_t getNumberOfArguments() const override { return 0; } bool hasSpecialSupportForNulls() const override { return true; } String getName() const override { return name; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), 1); } }; class FunctionIdentity : public IFunction { public: static constexpr auto name = "identity"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return arguments.front()->clone(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = block.safeGetByPosition(arguments.front()).column; } }; class FunctionArrayJoin : public IFunction { public: static constexpr auto name = "arrayJoin"; static FunctionPtr create(const Context & context) { return std::make_shared(); } /// Получить имя функции. String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } /** It could return many different values for single argument. */ bool isDeterministicInScopeOfQuery() override { return false; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { const DataTypeArray * arr = typeid_cast(&*arguments[0]); if (!arr) throw Exception("Argument for function " + getName() + " must be Array.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return arr->getNestedType()->clone(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { throw Exception("Function " + getName() + " must not be executed directly.", ErrorCodes::FUNCTION_IS_SPECIAL); } /// Because of function cannot be executed directly. bool isSuitableForConstantFolding() const override { return false; } }; FunctionPtr FunctionReplicate::create(const Context & context) { return std::make_shared(); } DataTypePtr FunctionReplicate::getReturnTypeImpl(const DataTypes & arguments) const { const DataTypeArray * array_type = typeid_cast(&*arguments[1]); if (!array_type) throw Exception("Second argument for function " + getName() + " must be array.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return std::make_shared(arguments[0]->clone()); } void FunctionReplicate::executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) { ColumnPtr first_column = block.safeGetByPosition(arguments[0]).column; ColumnArray * array_column = typeid_cast(block.safeGetByPosition(arguments[1]).column.get()); ColumnPtr temp_column; if (!array_column) { ColumnConstArray * const_array_column = typeid_cast(block.safeGetByPosition(arguments[1]).column.get()); if (!const_array_column) throw Exception("Unexpected column for replicate", ErrorCodes::ILLEGAL_COLUMN); temp_column = const_array_column->convertToFullColumn(); array_column = typeid_cast(&*temp_column); } block.safeGetByPosition(result).column = std::make_shared(first_column->replicate(array_column->getOffsets()), array_column->getOffsetsColumn()); } /** Returns a string with nice Unicode-art bar with resolution of 1/8 part of symbol. */ class FunctionBar : public IFunction { public: static constexpr auto name = "bar"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } bool isVariadic() const override { return true; } size_t getNumberOfArguments() const override { return 0; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { if (arguments.size() != 3 && arguments.size() != 4) throw Exception("Function " + getName() + " requires from 3 or 4 parameters: value, min_value, max_value, [max_width_of_bar = 80]. Passed " + toString(arguments.size()) + ".", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!arguments[0]->isNumeric() || !arguments[1]->isNumeric() || !arguments[2]->isNumeric() || (arguments.size() == 4 && !arguments[3]->isNumeric())) throw Exception("All arguments for function " + getName() + " must be numeric.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return std::make_shared(); } /// Выполнить функцию над блоком. void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { Int64 min = extractConstant(block, arguments, 1, "Second"); /// Уровень значения, при котором полоска имеет нулевую длину. Int64 max = extractConstant(block, arguments, 2, "Third"); /// Уровень значения, при котором полоска имеет максимальную длину. /// Максимальная ширина полоски в символах, по-умолчанию. Float64 max_width = arguments.size() == 4 ? extractConstant(block, arguments, 3, "Fourth") : 80; if (max_width < 1) throw Exception("Max_width argument must be >= 1.", ErrorCodes::ARGUMENT_OUT_OF_BOUND); if (max_width > 1000) throw Exception("Too large max_width.", ErrorCodes::ARGUMENT_OUT_OF_BOUND); const auto & src = *block.safeGetByPosition(arguments[0]).column; if (src.isConst()) { auto res_column = std::make_shared(block.rows(), ""); block.safeGetByPosition(result).column = res_column; if (executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width) || executeConstNumber(src, *res_column, min, max, max_width)) { } else throw Exception( "Illegal column " + block.safeGetByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } else { auto res_column = std::make_shared(); block.safeGetByPosition(result).column = res_column; if (executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width) || executeNumber(src, *res_column, min, max, max_width)) { } else throw Exception( "Illegal column " + block.safeGetByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } } private: template T extractConstant(Block & block, const ColumnNumbers & arguments, size_t argument_pos, const char * which_argument) const { const auto & column = *block.safeGetByPosition(arguments[argument_pos]).column; if (!column.isConst()) throw Exception( which_argument + String(" argument for function ") + getName() + " must be constant.", ErrorCodes::ILLEGAL_COLUMN); return applyVisitor(FieldVisitorConvertToNumber(), column[0]); } template static void fill(const PaddedPODArray & src, ColumnString::Chars_t & dst_chars, ColumnString::Offsets_t & dst_offsets, Int64 min, Int64 max, Float64 max_width) { size_t size = src.size(); size_t current_offset = 0; dst_offsets.resize(size); dst_chars.reserve(size * (UnicodeBar::getWidthInBytes(max_width) + 1)); /// строки 0-terminated. for (size_t i = 0; i < size; ++i) { Float64 width = UnicodeBar::getWidth(src[i], min, max, max_width); size_t next_size = current_offset + UnicodeBar::getWidthInBytes(width) + 1; dst_chars.resize(next_size); UnicodeBar::render(width, reinterpret_cast(&dst_chars[current_offset])); current_offset = next_size; dst_offsets[i] = current_offset; } } template static void fill(T src, String & dst_chars, Int64 min, Int64 max, Float64 max_width) { Float64 width = UnicodeBar::getWidth(src, min, max, max_width); dst_chars.resize(UnicodeBar::getWidthInBytes(width)); UnicodeBar::render(width, &dst_chars[0]); } template static bool executeNumber(const IColumn & src, ColumnString & dst, Int64 min, Int64 max, Float64 max_width) { if (const ColumnVector * col = typeid_cast *>(&src)) { fill(col->getData(), dst.getChars(), dst.getOffsets(), min, max, max_width); return true; } else return false; } template static bool executeConstNumber(const IColumn & src, ColumnConstString & dst, Int64 min, Int64 max, Float64 max_width) { if (const ColumnConst * col = typeid_cast *>(&src)) { fill(col->getData(), dst.getData(), min, max, max_width); return true; } else return false; } }; template class FunctionNumericPredicate : public IFunction { public: static constexpr auto name = Impl::name; static FunctionPtr create(const Context &) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { const auto arg = arguments.front().get(); if (!typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg) && !typeid_cast(arg)) throw Exception{"Argument for function " + getName() + " must be numeric", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT}; return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, const size_t result) override { const auto in = block.safeGetByPosition(arguments.front()).column.get(); if (!execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result) && !execute(block, in, result)) throw Exception{"Illegal column " + in->getName() + " of first argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN}; } template bool execute(Block & block, const IColumn * in_untyped, const size_t result) { if (const auto in = typeid_cast *>(in_untyped)) { const auto size = in->size(); const auto out = std::make_shared(size); block.safeGetByPosition(result).column = out; const auto & in_data = in->getData(); auto & out_data = out->getData(); for (const auto i : ext::range(0, size)) out_data[i] = Impl::execute(in_data[i]); return true; } else if (const auto in = typeid_cast *>(in_untyped)) { block.safeGetByPosition(result).column = std::make_shared(in->size(), Impl::execute(in->getData())); return true; } return false; } }; struct IsFiniteImpl { static constexpr auto name = "isFinite"; template static bool execute(const T t) { return std::isfinite(t); } }; struct IsInfiniteImpl { static constexpr auto name = "isInfinite"; template static bool execute(const T t) { return std::isinf(t); } }; struct IsNaNImpl { static constexpr auto name = "isNaN"; template static bool execute(const T t) { return std::isnan(t); } }; using FunctionIsFinite = FunctionNumericPredicate; using FunctionIsInfinite = FunctionNumericPredicate; using FunctionIsNaN = FunctionNumericPredicate; /** Returns server version (constant). */ class FunctionVersion : public IFunction { public: static constexpr auto name = "version"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { static const std::string version = getVersion(); block.safeGetByPosition(result).column = std::make_shared(block.rows(), version); } private: std::string getVersion() const; }; /** Returns server uptime in seconds. */ class FunctionUptime : public IFunction { public: static constexpr auto name = "uptime"; static FunctionPtr create(const Context & context) { return std::make_shared(context.getUptimeSeconds()); } FunctionUptime(time_t uptime_) : uptime(uptime_) { } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), uptime); } private: time_t uptime; }; /** Returns the server time zone. */ class FunctionTimeZone : public IFunction { public: static constexpr auto name = "timezone"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 0; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { return std::make_shared(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { block.safeGetByPosition(result).column = std::make_shared(block.rows(), DateLUT::instance().getTimeZone()); } }; /** Quite unusual function. * Takes state of aggregate function (example runningAccumulate(uniqState(UserID))), * and for each row of block, return result of aggregate function on merge of states of all previous rows and current row. * * So, result of function depends on partition of data to blocks and on order of data in block. */ class FunctionRunningAccumulate : public IFunction { public: static constexpr auto name = "runningAccumulate"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } bool isDeterministicInScopeOfQuery() override { return false; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { const DataTypeAggregateFunction * type = typeid_cast(&*arguments[0]); if (!type) throw Exception("Argument for function " + getName() + " must have type AggregateFunction - state of aggregate function.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return type->getReturnType()->clone(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { const ColumnAggregateFunction * column_with_states = typeid_cast(&*block.safeGetByPosition(arguments.at(0)).column); if (!column_with_states) throw Exception("Illegal column " + block.safeGetByPosition(arguments.at(0)).column->getName() + " of first argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); AggregateFunctionPtr aggregate_function_ptr = column_with_states->getAggregateFunction(); const IAggregateFunction & agg_func = *aggregate_function_ptr; auto deleter = [&agg_func](char * ptr) { agg_func.destroy(ptr); free(ptr); }; std::unique_ptr place{reinterpret_cast(malloc(agg_func.sizeOfData())), deleter}; agg_func.create(place.get()); /// Немного не exception-safe. Если здесь выкинется исключение, то зря вызовется destroy. std::unique_ptr arena = agg_func.allocatesMemoryInArena() ? std::make_unique() : nullptr; ColumnPtr result_column_ptr = agg_func.getReturnType()->createColumn(); block.safeGetByPosition(result).column = result_column_ptr; IColumn & result_column = *result_column_ptr; result_column.reserve(column_with_states->size()); const auto & states = column_with_states->getData(); for (const auto & state_to_add : states) { /// Will pass empty arena if agg_func does not allocate memory in arena agg_func.merge(place.get(), state_to_add, arena.get()); agg_func.insertResultInto(place.get(), result_column); } } }; /** Calculate difference of consecutive values in block. * So, result of function depends on partition of data to blocks and on order of data in block. */ class FunctionRunningDifference : public IFunction { private: /// It is possible to track value from previous block, to calculate continuously across all blocks. Not implemented. template static void process(const PaddedPODArray & src, PaddedPODArray & dst) { size_t size = src.size(); dst.resize(size); if (size == 0) return; /// It is possible to SIMD optimize this loop. By no need for that in practice. dst[0] = 0; Src prev = src[0]; for (size_t i = 1; i < size; ++i) { auto cur = src[i]; dst[i] = static_cast(cur) - prev; prev = cur; } } /// Result type is same as result of subtraction of argument types. template using DstFieldType = typename NumberTraits::ResultOfSubtraction::Type; /// Call polymorphic lambda with tag argument of concrete field type of src_type. template void dispatchForSourceType(const IDataType & src_type, F && f) const { if (typeid_cast(&src_type)) f(UInt8()); else if (typeid_cast(&src_type)) f(UInt16()); else if (typeid_cast(&src_type)) f(UInt32()); else if (typeid_cast(&src_type)) f(UInt64()); else if (typeid_cast(&src_type)) f(Int8()); else if (typeid_cast(&src_type)) f(Int16()); else if (typeid_cast(&src_type)) f(Int32()); else if (typeid_cast(&src_type)) f(Int64()); else if (typeid_cast(&src_type)) f(Float32()); else if (typeid_cast(&src_type)) f(Float64()); else if (typeid_cast(&src_type)) f(DataTypeDate::FieldType()); else if (typeid_cast(&src_type)) f(DataTypeDateTime::FieldType()); else throw Exception("Argument for function " + getName() + " must have numeric type.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); } public: static constexpr auto name = "runningDifference"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } bool isDeterministicInScopeOfQuery() override { return false; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { DataTypePtr res; dispatchForSourceType(*arguments[0], [&](auto field_type_tag) { res = std::make_shared>>(); }); return res; } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { auto & src = block.safeGetByPosition(arguments.at(0)); auto & res = block.safeGetByPosition(result); /// When column is constant, its difference is zero. if (src.column->isConst()) { res.column = res.type->createConstColumn(block.rows(), res.type->getDefault()); return; } res.column = res.type->createColumn(); dispatchForSourceType(*src.type, [&](auto field_type_tag) { using SrcFieldType = decltype(field_type_tag); process(static_cast &>(*src.column).getData(), static_cast> &>(*res.column).getData()); }); } }; /** Takes state of aggregate function. Returns result of aggregation (finalized state). */ class FunctionFinalizeAggregation : public IFunction { public: static constexpr auto name = "finalizeAggregation"; static FunctionPtr create(const Context & context) { return std::make_shared(); } String getName() const override { return name; } size_t getNumberOfArguments() const override { return 1; } DataTypePtr getReturnTypeImpl(const DataTypes & arguments) const override { const DataTypeAggregateFunction * type = typeid_cast(&*arguments[0]); if (!type) throw Exception("Argument for function " + getName() + " must have type AggregateFunction - state of aggregate function.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return type->getReturnType()->clone(); } void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override { ColumnAggregateFunction * column_with_states = typeid_cast(&*block.safeGetByPosition(arguments.at(0)).column); if (!column_with_states) throw Exception("Illegal column " + block.safeGetByPosition(arguments.at(0)).column->getName() + " of first argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); block.safeGetByPosition(result).column = column_with_states->convertToValues(); } }; /** Usage: * hasColumnInTable('database', 'table', 'column') */ class FunctionHasColumnInTable : public IFunction { public: static constexpr auto name = "hasColumnInTable"; size_t getNumberOfArguments() const override { return 3; } static FunctionPtr create(const Context & context) { return std::make_shared(context.getGlobalContext()); } FunctionHasColumnInTable(const Context & global_context_) : global_context(global_context_) { } String getName() const override { return name; } void getReturnTypeAndPrerequisitesImpl( const ColumnsWithTypeAndName & arguments, DataTypePtr & out_return_type, ExpressionActions::Actions & out_prerequisites) override; void executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) override; private: const Context & global_context; }; static size_t widthOfUTF8String(const String & s) { size_t res = 0; for (auto c : s) /// Skip UTF-8 continuation bytes. res += (UInt8(c) <= 0x7F || UInt8(c) >= 0xC0); return res; } void FunctionVisibleWidth::executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) { auto & src = block.safeGetByPosition(arguments[0]); size_t size = block.rows(); if (!src.column->isConst()) { auto res_col = std::make_shared(size); auto & res_data = static_cast(*res_col).getData(); block.safeGetByPosition(result).column = res_col; /// For simplicity reasons, function is implemented by serializing into temporary buffer. String tmp; for (size_t i = 0; i < size; ++i) { { WriteBufferFromString out(tmp); src.type->serializeTextEscaped(*src.column, i, out); } res_data[i] = widthOfUTF8String(tmp); } } else { String tmp; { WriteBufferFromString out(tmp); src.type->serializeTextEscaped(*src.column->cut(0, 1)->convertToFullColumnIfConst(), 0, out); } block.safeGetByPosition(result).column = std::make_shared(size, widthOfUTF8String(tmp)); } } void FunctionHasColumnInTable::getReturnTypeAndPrerequisitesImpl( const ColumnsWithTypeAndName & arguments, DataTypePtr & out_return_type, ExpressionActions::Actions & out_prerequisites) { static const std::string arg_pos_description[] = {"First", "Second", "Third"}; for (size_t i = 0; i < getNumberOfArguments(); ++i) { const ColumnWithTypeAndName & argument = arguments[i]; const ColumnConstString * column = typeid_cast(argument.column.get()); if (!column) { throw Exception(arg_pos_description[i] + " argument for function " + getName() + " must be const String.", ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); } } out_return_type = std::make_shared(); } void FunctionHasColumnInTable::executeImpl(Block & block, const ColumnNumbers & arguments, size_t result) { auto get_string_from_block = [&](size_t column_pos) -> const String & { ColumnPtr column = block.safeGetByPosition(column_pos).column; const ColumnConstString * const_column = typeid_cast(column.get()); return const_column->getData(); }; const String & database_name = get_string_from_block(arguments[0]); const String & table_name = get_string_from_block(arguments[1]); const String & column_name = get_string_from_block(arguments[2]); const StoragePtr & table = global_context.getTable(database_name, table_name); const bool has_column = table->hasColumn(column_name); block.safeGetByPosition(result).column = std::make_shared(block.rows(), has_column); } std::string FunctionVersion::getVersion() const { std::ostringstream os; os << DBMS_VERSION_MAJOR << "." << DBMS_VERSION_MINOR << "." << ClickHouseRevision::get(); return os.str(); } void registerFunctionsMiscellaneous(FunctionFactory & factory) { factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction>(); factory.registerFunction>(); factory.registerFunction>(); factory.registerFunction>(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); factory.registerFunction(); } }