system.asynchronous_metrics - ClickHouse Documentation

Запросы в ClickHouse CloudДанные в этой системной таблице хранятся локально на каждом узле ClickHouse Cloud. Поэтому, чтобы получить полное представление обо всех данных, требуется функция clusterAllReplicas. Дополнительные сведения см. здесь.

Описание

Содержит метрики, которые периодически рассчитываются в фоновом режиме. Например, объём используемой оперативной памяти.

Столбцы

metric (String) — Название метрики.
value (Float64) — Значение метрики.
description (String - Описание метрики)

Пример

SELECT * FROM system.asynchronous_metrics LIMIT 10

┌─metric──────────────────────────────────┬──────value─┬─description────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┐
│ AsynchronousMetricsCalculationTimeSpent │ 0.00179053 │ Time in seconds spent for calculation of asynchronous metrics (this is the overhead of asynchronous metrics).                                                                                                                                              │
│ NumberOfDetachedByUserParts             │          0 │ The total number of parts detached from MergeTree tables by users with the `ALTER TABLE DETACH` query (as opposed to unexpected, broken or ignored parts). The server does not care about detached parts and they can be removed.                          │
│ NumberOfDetachedParts                   │          0 │ The total number of parts detached from MergeTree tables. A part can be detached by a user with the `ALTER TABLE DETACH` query or by the server itself it the part is broken, unexpected or unneeded. The server does not care about detached parts and they can be removed. │
│ TotalRowsOfMergeTreeTables              │    2781309 │ Total amount of rows (records) stored in all tables of MergeTree family.                                                                                                                                                                                   │
│ TotalBytesOfMergeTreeTables             │    7741926 │ Total amount of bytes (compressed, including data and indices) stored in all tables of MergeTree family.                                                                                                                                                   │
│ NumberOfTables                          │         93 │ Total number of tables summed across the databases on the server, excluding the databases that cannot contain MergeTree tables. The excluded database engines are those who generate the set of tables on the fly, like `Lazy`, `MySQL`, `PostgreSQL`, `SQlite`. │
│ NumberOfDatabases                       │          6 │ Total number of databases on the server.                                                                                                                                                                                                                   │
│ MaxPartCountForPartition                │          6 │ Maximum number of parts per partition across all partitions of all tables of MergeTree family. Values larger than 300 indicates misconfiguration, overload, or massive data loading.                                                                       │
│ ReplicasSumMergesInQueue                │          0 │ Sum of merge operations in the queue (still to be applied) across Replicated tables.                                                                                                                                                                       │
│ ReplicasSumInsertsInQueue               │          0 │ Sum of INSERT operations in the queue (still to be replicated) across Replicated tables.                                                                                                                                                                   │
└─────────────────────────────────────────┴────────────┴────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┘

Описания метрик

Приведённые ниже описания сгенерированы из исходного кода C++ с помощью utils/generate-async-metrics-docs. Единственным источником истины является строковый литерал рядом с регистрацией каждой метрики в src/Common/AsynchronousMetrics.cpp, src/Interpreters/ServerAsynchronousMetrics.cpp и src/Coordination/KeeperAsynchronousMetrics.cpp. Имена метрик, содержащие переменный суффикс (для каждого disk, для каждого CPU, для каждого interface и т. д.), показаны с плейсхолдером *name*; запущенный server сообщает их с подставленным конкретным суффиксом.

AsynchronousHeavyMetricsCalculationTimeSpent

Время в секундах, затраченное на вычисление асинхронных ресурсоёмких метрик (связанных с таблицами); это накладные расходы асинхронных метрик.

AsynchronousHeavyMetricsUpdateInterval

Интервал обновления ресурсоёмких метрик (связанных с таблицами)

AsynchronousMetricsCalculationTimeSpent

Время в секундах, затрачиваемое на вычисление асинхронных метрик (это накладные расходы на асинхронные метрики).

AsynchronousMetricsUpdateInterval

Интервал обновления метрик

AsyncLoggingmetric_firstQueueSize

Количество асинхронных сообщений в очереди, ожидающих логирования в этом канале

BlockActiveTime_name

Время в секундах, в течение которого запросы ввода-вывода к блочному устройству находились в очереди. Это общесистемная метрика: она включает все процессы на хост-машине, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockActiveTimePerOp_name

Аналогично метрикам BlockActiveTime, но значение делится на количество операций IO, чтобы получить время на одну операцию.

BlockDiscardBytes_name

Количество байтов, отброшенных на блочном устройстве. Эти операции актуальны для SSD. Операции discard не используются в ClickHouse, но могут использоваться другими процессами в системе. Это общесистемная метрика: она включает все процессы на хост-машине, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockDiscardMerges_name

Количество операций discard, запрошенных у блочного устройства и объединённых планировщиком ввода-вывода ОС. Эти операции важны для SSD. ClickHouse не использует операции discard, но их могут использовать другие процессы в системе. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockDiscardOps_name

Количество операций discard, запрошенных у блочного устройства. Эти операции актуальны для SSD. ClickHouse не использует операции discard, но они могут использоваться другими процессами в системе. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockDiscardTime_name

Время в секундах, затраченное на выполнение операций discard, запрошенных у блочного устройства, суммарно по всем операциям. Эти операции актуальны для SSD. ClickHouse не использует операции discard, но их могут использовать другие процессы в системе. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockInFlightOps_name

Это значение показывает количество запросов ввода-вывода, отправленных драйверу устройства, но ещё не завершённых. Оно не включает запросы ввода-вывода, которые находятся в очереди, но ещё не были отправлены драйверу устройства. Это общесистемная метрика: она охватывает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockQueueTime_name

Это значение показывает суммарное количество миллисекунд, в течение которых запросы ввода-вывода ожидали обработки на этом блочном устройстве. Если одновременно ожидают несколько запросов ввода-вывода, это значение увеличивается на величину, равную произведению количества миллисекунд на число ожидающих запросов. Это общесистемная метрика: она учитывает все процессы на хост-машине, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockQueueTimePerOp_name

Аналогично метрикам BlockQueueTime, но значение делится на количество операций IO, чтобы получить время на одну операцию.

BlockReadBytes_name

Количество байтов, прочитанных с блочного устройства. Оно может быть меньше количества байтов, прочитанных из файловой системы, из-за использования страничного кэша ОС, который уменьшает число операций ввода-вывода. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockReadMerges_name

Количество операций чтения, запрошенных у блочного устройства и объединённых планировщиком ввода-вывода ОС. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockReadOps_name

Количество операций чтения, запрошенных у блочного устройства. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockReadTime_name

Время в секундах, затраченное на операции чтения с блочного устройства, суммарно по всем операциям. Это общесистемная метрика; она включает все процессы на хост-машине, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockWriteBytes_name

Количество байтов, записанных на блочное устройство. Оно может быть меньше количества байтов, записанных в файловую систему, из-за использования страничного кэша ОС, который позволяет сократить ввод-вывод. Запись на блочное устройство может происходить позже, чем соответствующая запись в файловую систему, из-за кэширования со сквозной записью. Это системная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockWriteMerges_name

Количество операций записи, запрошенных у блочного устройства и объединённых планировщиком ввода-вывода ОС. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockWriteOps_name

Количество операций записи, запрошенных у блочного устройства. Это общесистемная метрика: она включает все процессы на хосте, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

BlockWriteTime_name

Время в секундах, затраченное на операции записи, запрошенные у блочного устройства, в сумме по всем операциям. Это общесистемная метрика: она включает все процессы на хост-машине, а не только clickhouse-server. Источник: /sys/block. См. https://www.kernel.org/doc/Documentation/block/stat.txt

CGroupMaxCPU

Максимальное число ядер CPU по данным CGroups.

CGroupMemoryTotal

Общий объём памяти в cgroup, в байтах. Если указано 0, ограничение совпадает с OSMemoryTotal.

CGroupMemoryUsed

Объём памяти, используемой в cgroup, в байтах. В cgroup v2 это anon + sock + невытесняемая память ядра; в cgroup v1 — RSS. В обоих случаях кэш страниц ОС (файловый кэш) не учитывается.

CGroupMemoryUsedWithoutPageCache

Объём памяти, используемой в cgroup, в байтах, без учёта кэша страниц ClickHouse в пространстве пользователя. Это CGroupMemoryUsed за вычетом размера кэша страниц в пространстве пользователя. Если кэш страниц в пространстве пользователя отключён, это значение равно CGroupMemoryUsed.

CGroupSystemTime

Доля времени, в течение которого ядро CPU выполняло код ядра ОС (system).

CGroupSystemTimeNormalized

Значение аналогично CGroupSystemTime, но делится на количество доступных ядер CPU, поэтому оно находится в интервале [0..1] независимо от числа ядер. Это позволяет усреднять значения этой метрики по нескольким серверам в кластере, даже если количество ядер различается, и при этом получать среднюю метрику использования ресурсов. Если указана квота CPU в Cgroup, деленная на свой период, ее можно использовать вместо фактического количества ядер CPU; в этом случае значение этой метрики в отдельные моменты может превышать 1.

CGroupUserTime

Доля времени, в течение которого ядро CPU выполняло код в пользовательском пространстве. Сюда также входит время, когда CPU был недозагружен по внутренним причинам самого CPU (загрузки памяти, простои конвейера, неверные предсказания ветвлений, выполнение другого SMT-потока).

CGroupUserTimeNormalized

Значение похоже на CGroupUserTime, но делится на число доступных ядер CPU, чтобы оставаться в интервале [0..1] независимо от количества ядер. Это позволяет усреднять значения этой метрики по нескольким серверам в кластере, даже если число ядер различается, и при этом получать среднюю метрику использования ресурсов. При наличии соответствующей настройки вместо фактического числа ядер CPU можно использовать квоту CPU в Cgroup, делённую на её период; в этом случае значение этой метрики в отдельные моменты может превышать 1.

CPUFrequencyMHz_core_id

Текущая частота процессора, в МГц. Большинство современных процессоров динамически регулируют частоту для энергосбережения и Turbo Boost.

DictionaryMaxUpdateDelay

Максимальная задержка обновления словаря (в секундах)

DictionaryTotalFailedUpdates

Число ошибок с момента последней успешной загрузки во всех словарях.

DiskAvailable_name

Количество доступных байтов на диске (виртуальной файловой системе). Удалённые файловые системы могут не предоставлять эту информацию; в таком случае может отображаться большое значение, например 16 EiB.

DiskGetObjectThrottlerAvailable_name

Количество запросов GetObject, которые в данный момент можно отправить, не достигнув лимита throttling на диске (виртуальной файловой системе). Локальные файловые системы могут не предоставлять эту информацию.

DiskGetObjectThrottlerRPS_name

Лимит ограничения скорости запросов GetObject на диске, в запросах в секунду (виртуальная файловая система). Локальные файловые системы могут не предоставлять эту информацию.

DiskPutObjectThrottlerAvailable_name

Количество запросов PutObject, которые в данный момент можно отправить, не достигнув лимита throttling на диске (виртуальной файловой системе). Локальные файловые системы могут не предоставлять эту информацию.

DiskPutObjectThrottlerRPS_name

Предел ограничения скорости запросов PutObject для диска, в запросах в секунду (виртуальная файловая система). Локальные файловые системы могут не предоставлять эту информацию.

DiskTotal_name

Общий размер диска в байтах (виртуальной файловой системы). Удалённые файловые системы могут не предоставлять эту информацию; для них может отображаться большое значение, например 16 EiB.

DiskUnreserved_name

Доступные байты на диске (в виртуальной файловой системе) без учета места, зарезервированного под слияния, загрузки и перемещения. Удаленные файловые системы могут не предоставлять эту информацию и могут показывать большое значение, например 16 EiB.

DiskUsed_name

Количество использованных байтов на диске (виртуальной файловой системе). Удалённые файловые системы не всегда предоставляют эту информацию.

EDACi_Correctable

Количество исправимых ошибок памяти ECC. Высокое значение этого показателя указывает на неисправную оперативную память, которую необходимо немедленно заменить, поскольку при большом числе исправленных ошибок возможны и скрытые ошибки, приводящие к повреждению данных. Источник: /sys/devices/system/edac/mc/

EDACi_Uncorrectable

Количество неисправимых ошибок памяти ECC. Ненулевое значение этого показателя указывает на неисправность оперативной памяти, которую необходимо немедленно заменить, так как это может привести к повреждению данных. Источник: /sys/devices/system/edac/mc/

FilesystemCacheBytes

Общее количество байтов в виртуальной файловой системе cache. Этот кэш хранится на диске.

FilesystemCacheCapacity

Общая ёмкость виртуальной файловой системы cache. Этот кэш хранится на диске.

FilesystemCacheFiles

Общее число кэшированных сегментов файлов в виртуальной файловой системе cache. Этот кэш хранится на диске.

FilesystemLogsPathAvailableBytes

Количество доступных байт на томе, где смонтирован каталог журналов ClickHouse. Если это значение приближается к нулю, следует настроить ротацию журналов в конфигурационном файле.

FilesystemLogsPathAvailableINodes

Количество доступных инод на томе, на котором смонтирован каталог журналов ClickHouse.

FilesystemLogsPathTotalBytes

Размер тома, на который смонтирован каталог журналов ClickHouse, в байтах. Для журналов рекомендуется выделить не менее 10 ГБ.

FilesystemLogsPathTotalINodes

Общее количество инодов на томе, где смонтирован каталог журналов ClickHouse.

FilesystemLogsPathUsedBytes

Занятые байты на томе, где смонтирован каталог журналов ClickHouse.

FilesystemLogsPathUsedINodes

Количество занятых инодов на томе, где смонтирован каталог журналов ClickHouse.

FilesystemMainPathAvailableBytes

Доступные байты на томе, где смонтирован основной путь ClickHouse.

FilesystemMainPathAvailableINodes

Количество доступных инодов на томе, где смонтирован основной путь ClickHouse. Если оно близко к нулю, это указывает на неправильную конфигурацию, и вы получите ошибку ‘no space left on device’, даже если диск не заполнен.

FilesystemMainPathTotalBytes

Размер тома, на котором смонтирован основной путь ClickHouse, в байтах.

FilesystemMainPathTotalINodes

Общее количество инодов на томе, где смонтирован основной путь ClickHouse. Если оно меньше 25 миллионов, это указывает на ошибку конфигурации.

FilesystemMainPathUsedBytes

Количество использованных байт на томе, где смонтирован основной путь ClickHouse.

FilesystemMainPathUsedINodes

Количество используемых инодов на томе, где смонтирован основной путь ClickHouse. Это значение в основном соответствует числу файлов.

GRPCRejectedConnections

Количество отклонённых подключений по протоколу GRPC.

GRPCThreads

Количество потоков в сервере протокола GRPC.

HashTableStatsCacheEntries

Количество записей в кэше размеров хеш-таблиц. Этот кэш используется для предиктивной оптимизации GROUP BY.

HashTableStatsCacheHits

Количество случаев, когда размер хеш-таблицы был спрогнозирован верно.

HashTableStatsCacheMisses

Количество случаев, когда размер хеш-таблицы был предсказан неверно.

HTTPConnectionPoolgroup_nameTCPRcvBufTotalBytes

Общий объём памяти ядра, выделенной под TCP-буфер приёма (sk_rmem_alloc), для всех сокетов пула HTTP-соединений.

HTTPConnectionPoolgroup_nameTCPSndBufTotalBytes

Общий объём памяти ядра, выделенной под буферы отправки TCP (sk_wmem_alloc) для всех сокетов пула HTTP-соединений.

HTTPRejectedConnections

Количество отклонённых соединений через HTTP-интерфейс (без TLS).

HTTPSecureRejectedConnections

Количество отклонённых соединений на интерфейсе HTTPS.

HTTPSecureThreads

Количество потоков на сервере HTTPS-интерфейса.

HTTPThreads

Количество потоков в сервере HTTP-интерфейса (без TLS).

InterserverRejectedConnections

Количество отклонённых соединений по протоколу обмена между репликами (без TLS).

InterserverSecureRejectedConnections

Количество отклонённых соединений для протокола связи между репликами (с TLS).

InterserverSecureThreads

Количество потоков на сервере, используемых протоколом связи между репликами (с TLS).