#include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include namespace DB { bool ParserArray::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ASTPtr contents_node; ParserString open("["), close("]"); ParserExpressionList contents(false); ParserWhiteSpaceOrComments ws; if (!open.ignore(pos, end, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!contents.parse(pos, end, contents_node, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!close.ignore(pos, end, max_parsed_pos, expected)) return false; ASTFunction * function_node = new ASTFunction(StringRange(begin, pos)); function_node->name = "array"; function_node->arguments = contents_node; function_node->children.push_back(contents_node); node = function_node; return true; } bool ParserParenthesisExpression::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ASTPtr contents_node; ParserString open("("), close(")"); ParserExpressionList contents(false); ParserWhiteSpaceOrComments ws; if (!open.ignore(pos, end, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!contents.parse(pos, end, contents_node, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!close.ignore(pos, end, max_parsed_pos, expected)) return false; ASTExpressionList & expr_list = typeid_cast(*contents_node); /// пустое выражение в скобках недопустимо if (expr_list.children.empty()) { expected = "non-empty parenthesized list of expressions"; return false; } if (expr_list.children.size() == 1) { node = expr_list.children.front(); } else { ASTFunction * function_node = new ASTFunction(StringRange(begin, pos)); function_node->name = "tuple"; function_node->arguments = contents_node; function_node->children.push_back(contents_node); node = function_node; } return true; } bool ParserSubquery::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ASTPtr select_node; ParserString open("("), close(")"); ParserSelectQuery select; ParserWhiteSpaceOrComments ws; if (!open.ignore(pos, end, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!select.parse(pos, end, select_node, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!close.ignore(pos, end, max_parsed_pos, expected)) return false; node = new ASTSubquery(StringRange(begin, pos)); typeid_cast(*node).children.push_back(select_node); return true; } bool ParserIdentifier::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; /// Идентификатор в обратных кавычках if (pos != end && *pos == '`') { ReadBuffer buf(const_cast(pos), end - pos, 0); String s; readBackQuotedString(s, buf); if (s.empty()) /// Не разрешены идентификаторы "пустая строка". return false; pos += buf.count(); node = new ASTIdentifier(StringRange(begin, pos), s); return true; } else { while (pos != end && ((*pos >= 'a' && *pos <= 'z') || (*pos >= 'A' && *pos <= 'Z') || (*pos == '_') || (pos != begin && *pos >= '0' && *pos <= '9'))) ++pos; if (pos != begin) { node = new ASTIdentifier(StringRange(begin, pos), String(begin, pos - begin)); return true; } else return false; } } bool ParserCompoundIdentifier::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ASTPtr id_list; if (!ParserList(ParserPtr(new ParserIdentifier), ParserPtr(new ParserString(".")), false) .parse(pos, end, id_list, max_parsed_pos, expected)) return false; String name; const ASTExpressionList & list = static_cast(*id_list.get()); for (const auto & child : list.children) { if (!name.empty()) name += '.'; name += static_cast(*child.get()).name; } node = new ASTIdentifier(StringRange(begin, pos), name); /// В children запомним идентификаторы-составляющие, если их больше одного. if (list.children.size() > 1) node->children.insert(node->children.end(), list.children.begin(), list.children.end()); return true; } bool ParserFunction::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ParserIdentifier id_parser; ParserString open("("), close(")"); ParserExpressionList contents(false); ParserWhiteSpaceOrComments ws; ASTPtr identifier; ASTPtr expr_list_args; ASTPtr expr_list_params; if (!id_parser.parse(pos, end, identifier, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!open.ignore(pos, end, max_parsed_pos, expected)) return false; ws.ignore(pos, end); Pos contents_begin = pos; if (!contents.parse(pos, end, expr_list_args, max_parsed_pos, expected)) return false; Pos contents_end = pos; ws.ignore(pos, end); if (!close.ignore(pos, end, max_parsed_pos, expected)) return false; /** Проверка на распространённый случай ошибки - часто из-за сложности квотирования аргументов командной строки, * в запрос попадает выражение вида toDate(2014-01-01) вместо toDate('2014-01-01'). * Если не сообщить, что первый вариант - ошибка, то аргумент будет проинтерпретирован как 2014 - 01 - 01 - некоторое число, * и запрос тихо вернёт неожиданный результат. */ if (typeid_cast(*identifier).name == "toDate" && contents_end - contents_begin == strlen("2014-01-01") && contents_begin[0] >= '2' && contents_begin[0] <= '3' && contents_begin[1] >= '0' && contents_begin[1] <= '9' && contents_begin[2] >= '0' && contents_begin[2] <= '9' && contents_begin[3] >= '0' && contents_begin[3] <= '9' && contents_begin[4] == '-' && contents_begin[5] >= '0' && contents_begin[5] <= '9' && contents_begin[6] >= '0' && contents_begin[6] <= '9' && contents_begin[7] == '-' && contents_begin[8] >= '0' && contents_begin[8] <= '9' && contents_begin[9] >= '0' && contents_begin[9] <= '9') { std::string contents(contents_begin, contents_end - contents_begin); throw Exception("Argument of function toDate is unquoted: toDate(" + contents + "), must be: toDate('" + contents + "')" , ErrorCodes::SYNTAX_ERROR); } /// У параметрической агрегатной функции - два списка (параметры и аргументы) в круглых скобках. Пример: quantile(0.9)(x). if (open.ignore(pos, end, max_parsed_pos, expected)) { expr_list_params = expr_list_args; expr_list_args = nullptr; ws.ignore(pos, end); if (!contents.parse(pos, end, expr_list_args, max_parsed_pos, expected)) return false; ws.ignore(pos, end); if (!close.ignore(pos, end, max_parsed_pos, expected)) return false; } ASTFunction * function_node = new ASTFunction(StringRange(begin, pos)); function_node->name = typeid_cast(*identifier).name; function_node->arguments = expr_list_args; function_node->children.push_back(function_node->arguments); if (expr_list_params) { function_node->parameters = expr_list_params; function_node->children.push_back(function_node->parameters); } node = function_node; return true; } bool ParserNull::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ParserString nested_parser("NULL", true); if (nested_parser.parse(pos, end, node, max_parsed_pos, expected)) { node = new ASTLiteral(StringRange(StringRange(begin, pos)), Null()); return true; } else return false; } bool ParserNumber::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Field res; Pos begin = pos; if (pos == end) return false; /** Максимальная длина числа. 319 символов достаточно, чтобы записать максимальный double в десятичной форме. * Лишнее копирование нужно, чтобы воспользоваться функциями strto*, которым нужна 0-терминированная строка. */ char buf[320]; size_t bytes_to_copy = end - pos < 319 ? end - pos : 319; memcpy(buf, pos, bytes_to_copy); buf[bytes_to_copy] = 0; char * pos_double = buf; errno = 0; /// Функции strto* не очищают errno. Float64 float_value = std::strtod(buf, &pos_double); if (pos_double == buf || errno == ERANGE) { expected = "number"; return false; } res = float_value; /// попробуем использовать более точный тип - UInt64 или Int64 char * pos_integer = buf; if (float_value < 0) { errno = 0; Int64 int_value = std::strtoll(buf, &pos_integer, 0); if (pos_integer == pos_double && errno != ERANGE) res = int_value; } else { errno = 0; UInt64 uint_value = std::strtoull(buf, &pos_integer, 0); if (pos_integer == pos_double && errno != ERANGE) res = uint_value; } pos += pos_double - buf; node = new ASTLiteral(StringRange(begin, pos), res); return true; } bool ParserUnsignedInteger::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Field res; Pos begin = pos; if (pos == end) return false; UInt64 x = 0; ReadBuffer in(const_cast(pos), end - pos, 0); if (!tryReadIntText(x, in) || in.offset() == 0) { expected = "unsigned integer"; return false; } res = x; pos += in.offset(); node = new ASTLiteral(StringRange(begin, pos), res); return true; } bool ParserStringLiteral::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; String s; if (pos == end || *pos != '\'') { expected = "opening single quote"; return false; } ++pos; while (pos != end) { size_t bytes = 0; for (; pos + bytes != end; ++bytes) if (pos[bytes] == '\\' || pos[bytes] == '\'') break; s.append(pos, bytes); pos += bytes; if (*pos == '\'') { ++pos; node = new ASTLiteral(StringRange(begin, pos), s); return true; } if (*pos == '\\') { ++pos; if (pos == end) { expected = "escape sequence"; return false; } s += parseEscapeSequence(*pos); ++pos; } } expected = "closing single quote"; return false; } bool ParserArrayOfLiterals::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; Array arr; if (pos == end || *pos != '[') { expected = "opening square bracket"; return false; } ParserWhiteSpaceOrComments ws; ParserLiteral literal_p; ++pos; while (pos != end) { ws.ignore(pos, end); if (!arr.empty()) { if (*pos == ']') { ++pos; node = new ASTLiteral(StringRange(begin, pos), arr); return true; } else if (*pos == ',') { ++pos; } else { expected = "comma or closing square bracket"; return false; } } ws.ignore(pos, end); ASTPtr literal_node; if (!literal_p.parse(pos, end, literal_node, max_parsed_pos, expected)) return false; arr.push_back(typeid_cast(*literal_node).value); } expected = "closing square bracket"; return false; } bool ParserLiteral::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { ParserNull null_p; ParserNumber num_p; ParserStringLiteral str_p; if (null_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (num_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (str_p.parse(pos, end, node, max_parsed_pos, expected)) return true; expected = "literal: one of NULL, number, single quoted string"; return false; } const char * ParserAlias::restricted_keywords[] = { "FROM", "FINAL", "SAMPLE", "ARRAY", "LEFT", "RIGHT", "INNER", "FULL", "CROSS", "JOIN", "ANY", "ALL", "ON", "USING", "PREWHERE", "WHERE", "GROUP", "WITH", "HAVING", "ORDER", "LIMIT", "SETTINGS", "FORMAT", "UNION", nullptr }; bool ParserAlias::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { ParserWhiteSpaceOrComments ws; ParserString s_as("AS", true, true); ParserIdentifier id_p; bool has_as_word = s_as.parse(pos, end, node, max_parsed_pos, expected); if (!allow_alias_without_as_keyword && !has_as_word) return false; ws.ignore(pos, end); if (!id_p.parse(pos, end, node, max_parsed_pos, expected)) return false; if (!has_as_word) { /** В этом случае алиас не может совпадать с ключевым словом - для того, * чтобы в запросе "SELECT x FROM t", слово FROM не считалось алиасом, * а в запросе "SELECT x FRO FROM t", слово FRO считалось алиасом. */ const String & name = static_cast(*node.get()).name; for (const char ** keyword = restricted_keywords; *keyword != nullptr; ++keyword) if (0 == strcasecmp(name.data(), *keyword)) return false; } return true; } bool ParserExpressionElement::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ParserParenthesisExpression paren_p; ParserSubquery subquery_p; ParserArray array_p; ParserArrayOfLiterals array_lite_p; ParserLiteral lit_p; ParserFunction fun_p; ParserCompoundIdentifier id_p; ParserString asterisk_p("*"); if (subquery_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (paren_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (array_lite_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (array_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (lit_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (fun_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (id_p.parse(pos, end, node, max_parsed_pos, expected)) return true; if (asterisk_p.parse(pos, end, node, max_parsed_pos, expected)) { node = new ASTAsterisk(StringRange(begin, pos)); return true; } expected = "expression element: one of array, literal, function, identifier, asterisk, parenthised expression, subquery"; return false; } bool ParserWithOptionalAlias::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { ParserWhiteSpaceOrComments ws; if (!elem_parser->parse(pos, end, node, max_parsed_pos, expected)) return false; /** Маленький хак. * * В секции SELECT мы разрешаем парсить алиасы без указания ключевого слова AS. * Эти алиасы не могут совпадать с ключевыми словами запроса. * А само выражение может быть идентификатором, совпадающем с ключевым словом. * Например, столбец может называться where. И в запросе может быть написано SELECT where AS x FROM table или даже SELECT where x FROM table. * Даже может быть написано SELECT where AS from FROM table, но не может быть написано SELECT where from FROM table. * Смотрите подробнее в реализации ParserAlias. * * Но возникает небольшая проблема - неудобное сообщение об ошибке, если в секции SELECT в конце есть лишняя запятая. * Хотя такая ошибка очень распространена. Пример: SELECT x, y, z, FROM tbl * Если ничего не предпринять, то это парсится как выбор столбца с именем FROM и алиасом tbl. * Чтобы избежать такой ситуации, мы не разрешаем парсить алиас без ключевого слова AS для идентификатора с именем FROM. * * Замечание: это также фильтрует случай, когда идентификатор квотирован. * Пример: SELECT x, y, z, `FROM` tbl. Но такой случай можно было бы разрешить. * * В дальнейшем было бы проще запретить неквотированные идентификаторы, совпадающие с ключевыми словами. */ bool allow_alias_without_as_keyword_now = allow_alias_without_as_keyword; if (allow_alias_without_as_keyword) if (const ASTIdentifier * id = typeid_cast(node.get())) if (0 == strcasecmp(id->name.data(), "FROM")) allow_alias_without_as_keyword_now = false; ws.ignore(pos, end); ASTPtr alias_node; if (ParserAlias(allow_alias_without_as_keyword_now).parse(pos, end, alias_node, max_parsed_pos, expected)) { String alias_name = typeid_cast(*alias_node).name; if (ASTWithAlias * ast_with_alias = dynamic_cast(node.get())) ast_with_alias->alias = alias_name; else { expected = "alias cannot be here"; return false; } } return true; } bool ParserOrderByElement::parseImpl(Pos & pos, Pos end, ASTPtr & node, Pos & max_parsed_pos, Expected & expected) { Pos begin = pos; ParserWhiteSpaceOrComments ws; ParserExpressionWithOptionalAlias elem_p(false); ParserString ascending("ASCENDING", true, true); ParserString descending("DESCENDING", true, true); ParserString asc("ASC", true, true); ParserString desc("DESC", true, true); ParserString collate("COLLATE", true, true); ParserStringLiteral collate_locale_parser; ASTPtr expr_elem; if (!elem_p.parse(pos, end, expr_elem, max_parsed_pos, expected)) return false; int direction = 1; ws.ignore(pos, end); if (descending.ignore(pos, end) || desc.ignore(pos, end)) direction = -1; else ascending.ignore(pos, end) || asc.ignore(pos, end); ws.ignore(pos, end); Poco::SharedPtr collator = nullptr; if (collate.ignore(pos, end)) { ws.ignore(pos, end); ASTPtr locale_node; if (!collate_locale_parser.parse(pos, end, locale_node, max_parsed_pos, expected)) return false; const String & locale = typeid_cast(*locale_node).value.safeGet(); collator = new Collator(locale); } node = new ASTOrderByElement(StringRange(begin, pos), direction, collator); node->children.push_back(expr_elem); return true; } }