简介
当使用数据库支持的应用程序时,管理性能是一项持续的任务。运行缓慢的查询可能会导致超时、降低用户体验、使用更多资源,甚至可能影响您的预算,具体取决于您为数据库付费的方式。这些问题使得理解数据库的性能特征变得重要,以便您可以识别和修复有问题的查询。
在本指南中,我们将讨论识别 PostgreSQL 数据库中性能不佳的查询的不同方法。之后,我们将讨论您可以用来修复慢查询以保持 PostgreSQL 性能的不同技术。
Prisma ORM 中的 PostgreSQL 连接器使您可以直接从 JavaScript 和 TypeScript 应用程序管理 PostgreSQL 数据库。
您可以使用 CLI 从生产就绪的 Prisma Postgres 数据库 快速设置 Prisma ORM
npx prisma@latest init --db
然后按照此指南构建完整的 TypeScript 应用程序。
检查活动查询和进程
尝试追踪低性能查询时,首先要检查的是当前活动查询和进程的列表。PostgreSQL 通过 pg_stat_activity
视图 提供此数据。
pg_stat_activity
视图是 PostgreSQL 累积统计系统中的一个视图。它包含每个服务器进程一行,可帮助您查看每个进程当前正在处理的内容。
要显示视图中的所有信息,请输入
SELECT * FROM pg_stat_activity \gx
-[ RECORD 1 ]----+-------------------------------datid |datname |pid | 1963leader_pid |usesysid |usename |application_name |client_addr |client_hostname |client_port |backend_start | 2022-11-01 11:03:44.083043+01xact_start |query_start |state_change |wait_event_type | Activitywait_event | AutoVacuumMainstate |backend_xid |backend_xmin |query_id |query |backend_type | autovacuum launcher-[ RECORD 2 ]----+-------------------------------datid |datname |pid | 1965leader_pid |usesysid | 10usename | postgresapplication_name |client_addr |client_hostname |client_port |backend_start | 2022-11-01 11:03:44.083926+01xact_start |query_start |state_change |wait_event_type | Activitywait_event | LogicalLauncherMainstate |backend_xid |backend_xmin |query_id |query |backend_type | logical replication launcher-[ RECORD 3 ]----+-------------------------------datid | 13921datname | postgrespid | 836027leader_pid |usesysid | 10usename | postgresapplication_name | psqlclient_addr |client_hostname |client_port | -1backend_start | 2022-11-06 20:20:18.273218+01xact_start | 2022-11-06 20:39:01.207078+01query_start | 2022-11-06 20:39:01.207078+01state_change | 2022-11-06 20:39:01.207088+01wait_event_type |wait_event |state | activebackend_xid |backend_xmin | 762query_id |query | select * from pg_stat_activitybackend_type | client backend-[ RECORD 4 ]----+-------------------------------datid |datname |pid | 1961leader_pid |usesysid |usename |application_name |client_addr |client_hostname |client_port |backend_start | 2022-11-01 11:03:44.082354+01xact_start |query_start |state_change |wait_event_type | Activitywait_event | BgWriterHibernatestate |backend_xid |backend_xmin |query_id |query |backend_type | background writer-[ RECORD 5 ]----+-------------------------------datid |datname |pid | 1960leader_pid |usesysid |usename |application_name |client_addr |client_hostname |client_port |backend_start | 2022-11-01 11:03:44.082065+01xact_start |query_start |state_change |wait_event_type | Activitywait_event | CheckpointerMainstate |backend_xid |backend_xmin |query_id |query |backend_type | checkpointer-[ RECORD 6 ]----+-------------------------------datid |datname |pid | 1962leader_pid |usesysid |usename |application_name |client_addr |client_hostname |client_port |backend_start | 2022-11-01 11:03:44.082653+01xact_start |query_start |state_change |wait_event_type | Activitywait_event | WalWriterMainstate |backend_xid |backend_xmin |query_id |query |backend_type | walwriter
注意: 使用 \gx
行终止序列而不是传统的分号 (;
) 告诉 PostgreSQL 为当前查询使用扩展输出模式。这会垂直显示每条记录的列和关联值,而不是水平显示,这可以在某些情况下提高可读性。
输出中有许多字段在查找较慢的查询时可能会有所帮助。一些最相关的字段包括
state
:进程的当前状态。标记为active
的行当前正在执行。其他状态包括idle
(进程正在等待新的客户端命令)、idle in transaction
(进程正在事务上下文中等待命令)和idle in transaction (aborted)
(语句导致错误的事务)。query
:最近执行的查询。对于活动进程,这将是当前正在执行的查询。usename
:与进程关联的用户的名称。application_name
:连接到进程的应用程序的名称。datname
:用户连接到的数据库的名称。wait_event
:进程正在等待的事件的名称(如果有)。如果进程的状态为active
并且存在wait_event
,则意味着查询当前被系统的其他部分阻止。wait_event_type
:进程正在等待的事件的类别。pid
:进程的进程 ID。query_start
:对于活动查询,当前查询开始的时间戳。xact_start
:如果进程正在执行事务,则当前事务开始的时间戳。
我们可以根据当前上下文的任何相关列过滤查询。一种有用的模式是使用 age()
函数来计算查询已运行多长时间。例如
SELECTage(clock_timestamp(), query_start),usename,datname,queryFROM pg_stat_activityWHEREstate != 'idle'AND query NOT ILIKE '%pg_stat_activity%'ORDER BY age desc;
这将显示非空闲查询的执行时间、用户名、数据库和查询文本。我们按运行时间从长到短对结果进行排序,并将此特定查询从结果中排除。
同样,您可以查看所有非空闲但确实有等待事件的进程
SELECTusename,datname,query,wait_event_type,wait_eventFROM pg_stat_activityWHEREstate != 'idle'AND query wait_event != ''
这可以帮助您查看由于系统的其他部分(例如,锁争用)而当前未取得进展的查询。
检查其他系统统计信息
虽然 pg_stat_activity
视图可能会提供您识别较慢查询所需的大部分信息,但查看其他系统统计信息也可能很有用,以帮助识别其他优化目标。
查看数据库统计信息
pg_stat_database
表包含有关每个数据库的统计信息
SELECT * FROM pg_stat_database \gx
. . .-[ RECORD 2 ]------------+------------------------------datid | 13921datname | postgresnumbackends | 1xact_commit | 266xact_rollback | 9blks_read | 229blks_hit | 11263tup_returned | 118708tup_fetched | 3563tup_inserted | 0tup_updated | 0tup_deleted | 0conflicts | 0temp_files | 0temp_bytes | 0deadlocks | 0checksum_failures |checksum_last_failure |blk_read_time | 0blk_write_time | 0session_time | 5303626.534active_time | 200.906idle_in_transaction_time | 0sessions | 2sessions_abandoned | 0sessions_fatal | 0sessions_killed | 0stats_reset | 2022-11-06 20:20:18.279798+01. . .
对于我们的目的,一些有趣的列包括
blks_read
:数据库中读取的磁盘块数。blks_hit
:磁盘块在缓冲区缓存中找到的次数(避免了从磁盘的慢速读取)。xact_commit
:提交的事务数。xact_rollback
:回滚的事务数。
正如 Data Egret 团队在其博客中展示的那样,您可以使用这些原始值来计算有趣的统计信息,例如您的缓存命中率
SELECTdatname,100 * blks_hit / (blks_hit + blks_read) as cache_hit_ratioFROMpg_stat_databaseWHERE(blks_hit + blks_read) > 0;
datname | cache_hit_ratio-----------+-----------------| 99postgres | 98template1 | 99(3 rows)
这些有价值的信息可以帮助您评估是否应该向数据库集群添加 RAM,以便可以有效地缓存最常用的查询。
查看表统计信息
另一组有用的视图是 pg_stat_all_tables
、pg_stat_user_tables
和 pg_stat_sys_tables
。pg_stat_all_tables
视图显示所有数据库的访问统计信息,而其他两个视图根据表是用户表还是系统表来过滤表。
SELECT * FROM pg_stat_all_tables \gx
. . .-[ RECORD 104 ]-----+------------------------relid | 1262schemaname | pg_catalogrelname | pg_databaseseq_scan | 5168seq_tup_read | 20655idx_scan | 20539idx_tup_fetch | 20539n_tup_ins | 0n_tup_upd | 0n_tup_del | 0n_tup_hot_upd | 0n_live_tup | 0n_dead_tup | 0n_mod_since_analyze | 0n_ins_since_vacuum | 0last_vacuum |last_autovacuum |last_analyze |last_autoanalyze |vacuum_count | 0autovacuum_count | 0analyze_count | 0autoanalyze_count | 0
这些视图中一些有趣的列包括
seq_scan
:在表上运行的顺序扫描次数。seq_tup_read
:从顺序扫描返回的行数。idx_scan
:针对表运行的索引扫描次数。idx_tup_fetch
:通过索引检索的行数。
这些列中的数字可以帮助您评估索引的性能以及它们是否被您运行的查询有效地使用。如果您发现您的表有很多顺序扫描,那么您可能会受益于创建可以被最常用查询使用的其他索引。
查看索引命中率
如果您需要有关当前拥有的索引的更多信息,您可以查看 pg_stat_all_indexes
、pg_stat_user_indexes
和 pg_stat_sys_indexes
视图
SELECT * FROM pg_stat_all_indexes \gx
. . .-[ RECORD 6 ]-+----------------------------------------------relid | 1249indexrelid | 2659schemaname | pg_catalogrelname | pg_attributeindexrelname | pg_attribute_relid_attnum_indexidx_scan | 822idx_tup_read | 1670idx_tup_fetch | 1670. . .
这些视图为您提供有关每个索引使用频率的信息。idx_scan
列显示索引被扫描的次数。idx_tup_read
列显示扫描返回的条目数,而 idx_tup_fetch
显示索引扫描返回的总行数。
此信息对于帮助您了解何时拥有未被查询使用的索引非常有用。一旦您识别出这些索引,您可以重写查询以利用索引,也可以删除未使用的索引以提高写入性能。
查看锁信息
您收集的有关慢查询的一些信息可能指向锁定问题。您可以通过查询 pg_locks
视图来查找有关当前持有的所有锁的更多信息
SELECT * FROM pg_locks \gx
-[ RECORD 1 ]------+----------------locktype | relationdatabase | 13921relation | 12290page |tuple |virtualxid |transactionid |classid |objid |objsubid |virtualtransaction | 3/3920pid | 967262mode | AccessShareLockgranted | tfastpath | twaitstart |-[ RECORD 2 ]------+----------------locktype | virtualxiddatabase |relation |page |tuple |virtualxid | 3/3920transactionid |classid |objid |objsubid |virtualtransaction | 3/3920pid | 967262mode | ExclusiveLockgranted | tfastpath | twaitstart |
输出将提供有关 PostgreSQL 中所有锁的信息。这可以帮助您诊断在单独的进程请求控制同一对象时可能发生的争用问题。
一些可能帮助您调查有问题锁定的列包括
启用慢查询日志记录
查找有关长时间运行查询信息的更简单方法之一是启用慢查询日志记录。启用慢查询日志记录允许 PostgreSQL 自动记录任何执行时间超过给定时间的查询。这使您可以收集有关在您调查时未执行的慢查询的信息。
检查 PostgreSQL 是否已在记录慢查询
您应该做的第一件事是验证慢查询日志记录的当前状态。如果已启用慢查询日志记录,则无需执行任何操作。
您可以通过输入以下内容来检查是否启用了慢查询日志记录
SELECT * FROM pg_settings WHERE name = 'log_min_duration_statement'\gx
-[ RECORD 1 ]---+---------------------------------------------------------------------------name | log_min_duration_statementsetting | -1unit | mscategory | Reporting and Logging / When to Logshort_desc | Sets the minimum execution time above which all statements will be logged.extra_desc | Zero prints all queries. -1 turns this feature off.context | superuservartype | integersource | defaultmin_val | -1max_val | 2147483647enumvals |boot_val | -1reset_val | -1sourcefile |sourceline |pending_restart | f
如果您检查 short_desc
和 extra_desc
列的值,您将找到允许我们评估当前是否启用了日志记录的信息。我们可以看到慢查询日志记录当前未启用,因为 setting
列当前设置为 -1
。
现在您知道了当前状态,您可以根据需要更改它。
配置 PostgreSQL 以记录慢查询
在我们继续之前,重要的是要注意,虽然慢查询日志记录非常有用,但它可能会产生额外的性能影响。PostgreSQL 必须执行额外的操作来计时每个查询并将结果记录到日志中。这可能会影响性能并意外地占用硬盘空间。
在所有时间都记录慢查询可能不是一个好主意。相反,在您积极调查问题时启用该功能,并在完成后禁用它。
全局记录慢查询
考虑到这一点,您可以通过修改 PostgreSQL 服务器的配置文件来全局配置慢查询日志记录。您也可以交互式地修改这些值,但在配置中设置良好的默认值将使以后更轻松地进行交互式调整。
打开 PostgreSQL 的配置文件。您可以通过输入以下内容找到当前配置文件的位置
SHOW config_file;
config_file-----------------------------------------/etc/postgresql/14/main/postgresql.conf(1 row)
在文件中,搜索 log_min_duration_statement
设置。如果上面示例输出值是从配置文件中读取的,则它将被设置为 -1
以指示该功能当前已禁用。还有许多其他相关设置,您可以根据需要进行调整
. . .# Query logging configuration#log_min_duration_statement = -1 # -1 is disabled, 0 logs all statements# and their durations, > 0 logs only# statements running at least this number# of milliseconds#log_min_duration_sample = -1 # -1 is disabled, 0 logs a sample of statements# and their durations, > 0 logs only a sample of# statements running at least this number# of milliseconds;# sample fraction is determined by log_statement_sample_rate#log_statement_sample_rate = 1.0 # fraction of logged statements exceeding# log_min_duration_sample to be logged;# 1.0 logs all such statements, 0.0 never logs#log_transaction_sample_rate = 0.0 # fraction of transactions whose statements# are logged regardless of their duration; 1.0 logs all# statements from all transactions, 0.0 never logs. . .
当前,log_min_duration_statement
设置被注释掉,其当前值设置为 -1
以表示默认值。其他设置在文件中得到了很好的注释,并允许您对超过最小值的语句进行采样,而不是记录所有语句。最后一个设置允许您对事务中发生的语句也进行采样。
您可以通过取消注释 log_min_duration_statement
并将其设置为另一个值来启用长查询日志记录。例如,我们可以将其设置为 5 秒,以记录任何完成时间超过该值的语句
log_min_duration_statement = 5s
保存文件后,您可以通过在 PostgreSQL 中输入以下内容来重新加载 PostgreSQL 服务器
SELECT pg_reload_conf();
您可以通过再次检查当前值来验证服务器是否正在使用您的新设置
SELECT * FROM pg_settings WHERE name = 'log_min_duration_statement'\gx
-[ RECORD 1 ]---+---------------------------------------------------------------------------name | log_min_duration_statementsetting | 5000unit | mscategory | Reporting and Logging / When to Logshort_desc | Sets the minimum execution time above which all statements will be logged.extra_desc | Zero prints all queries. -1 turns this feature off.context | superuservartype | integersource | configuration filemin_val | -1max_val | 2147483647enumvals |boot_val | -1reset_val | 5000sourcefile | /etc/postgresql/14/main/postgresql.confsourceline | 506pending_restart | f
现在,setting
字段设置为 5000,unit
字段设置为 ms
,表明我们的 5 秒设置已转换为 5000 毫秒并已应用。sourcefile
行也确认此值是从我们修改的配置文件中读取的。
按数据库记录慢查询
尝试检测慢查询时的另一个选择是将慢查询日志记录限制为特定数据库。虽然 log_min_duration_statement
可以全局设置,正如我们在上一节中展示的那样,它也可以在数据库级别配置。
要为单个数据库启用慢查询日志记录,请使用 ALTER DATABASE
命令
ALTER DATABASE helloprisma SET 'log_min_duration_statement' = 2000;
ALTER DATABASE
请注意,与全局设置不同,当使用 ALTER DATABASE
命令时,该值必须是无单位的整数,表示以毫秒为单位的时间。
我们可以通过查询每个数据库的角色设置来验证该设置是否已应用
\drds
List of settingsRole | Database | Settings------+-------------+-------------------------------| helloprisma | log_min_duration_statement=2000(1 row)
我们可以验证这是否没有干扰我们之前设置为 5 秒阈值的全局设置
SELECT * FROM pg_settings WHERE name = 'log_min_duration_statement'\gx
-[ RECORD 1 ]---+---------------------------------------------------------------------------name | log_min_duration_statementsetting | 5000unit | mscategory | Reporting and Logging / When to Logshort_desc | Sets the minimum execution time above which all statements will be logged.extra_desc | Zero prints all queries. -1 turns this feature off.context | superuservartype | integersource | configuration filemin_val | -1max_val | 2147483647enumvals |boot_val | -1reset_val | 5000sourcefile | /etc/postgresql/14/main/postgresql.confsourceline | 506pending_restart | f
测试慢查询日志记录
通过发出一个超过最小日志记录持续时间的语句来测试该设置
SELECT pg_sleep(10);
pg_sleep----------(1 row)
检查日志,您应该会找到指示发生了长时间运行查询的语句
2022-11-11 17:58:04.719 CET [1121088] postgres@postgres STATEMENT: select sleep(10);2022-11-11 17:58:42.635 CET [1121088] postgres@postgres LOG: duration: 10017.171 ms statement: select pg_sleep(10);
由于我们对全局限制和特定表有不同的阈值,因此我们可以通过使用应该触发一个但不触发另一个的查询时间来测试每个阈值是否都得到正确应用。
例如,我们可以连接到具有较低阈值的数据库并休眠 4 秒,这应该会触发日志行
\c helloprismaSELECT pg_sleep(4);
我们的日志显示
2022-11-13 14:46:07.361 CET [1252789] postgres@helloprisma STATEMENT: alter database helloprisma set log_min_duration_statement=2s;2022-11-13 14:53:05.027 CET [1309069] postgres@helloprisma LOG: duration: 4022.546 ms statement: select pg_sleep(4);
现在,我们可以切换到另一个应该仅受全局设置影响的数据库。相同的休眠语句不应触发日志行
\c postgresSELECT pg_sleep(4);
不应记录新的日志行。
结论
在本文中,我们介绍了如何查看和理解 PostgreSQL 提供的某些性能信息。查看此信息可以让您深入了解系统资源、查询模式、配置设置中的不同瓶颈。当您遇到性能缓慢时,您可以检查 PostgreSQL 提供的信息以开始调查有问题的行为。
我们还讨论了如何使用慢查询日志记录来准确地查明哪些查询正在占用系统资源并花费比预期更长的时间来执行。记录此数据并评估生成的日志可以帮助您确定可能需要额外索引、不同查询结构或更有效查询设计的位置。了解如何识别这些昂贵的操作是朝着运行更实用的数据库支持的应用程序迈出的第一步。
PostgreSQL 数据库连接器 可以帮助您从 JavaScript 和 TypeScript 应用程序管理 PostgreSQL 数据库。了解如何将 Prisma 添加到现有项目或如何从头开始使用 Prisma。