Appearance
MySQL面试宝典
基础知识
0.什么是 MySQL? 🚀
MySQL 是一个开源的关系型数据库管理系统,现在隶属于 Oracle 旗下,也是我用得最多的一款关系型数据库。
与此同时,MySQL 也是我们国内使用频率最高的一种数据库,我在本地安装的是最新的 8.0 社区版。
1. 什么是内连接、外连接、交叉连接、笛卡尔积呢? 🚀
MySQL 中的连接是通过两个或多个表之间的列进行关联,从而获取相关联的数据。连接分为内连接、外连接、交叉连接。
①、内连接(inner join):返回两个表中连接字段匹配的行。如果一个表中的行在另一个表中没有匹配的行,则这些行不会出现在查询结果中。
假设有两个表,Employees 和 Departments。
sql
SELECT Employees.Name, Departments.DeptName
FROM Employees
INNER JOIN Departments ON Employees.DeptID = Departments.DeptID;
这个查询将返回所有员工及其所在部门的信息,但仅限于那些在 Departments 表中有对应部门的员工。
②、外连接(outer join):不仅返回两个表中匹配的行,还返回左表、右表或两者中未匹配的行。
sql
SELECT Employees.Name, Departments.DeptName
FROM Employees
LEFT OUTER JOIN Departments ON Employees.DeptID = Departments.DeptID;
这个查询将返回所有员工的名字和他们部门的名字,即使某些员工没有分配到部门。
③、交叉连接(cross join):返回第一个表中的每一行与第二个表中的每一行的组合,这种类型的连接通常用于生成笛卡尔积。
sql
SELECT Employees.Name, Departments.DeptName
FROM Employees
CROSS JOIN Departments;
这个查询将为 Employees 表中的每个员工与 Departments 表中的每个部门生成一个组合。
④、笛卡尔积:数学中的一个概念,例如集合 A={a,b},集合 B={0,1,2},那么 A✖️B={<a,0>,<a,1>,<a,2>,<b,0>,<b,1>,<b,2>,}
。
2. MySQL 的内连接、左连接、右连接有什么区别? 🚀
MySQL 的连接主要分为内连接和外连接,外连接又可以分为左连接和右连接。
①、inner join
内连接,在两张表进行连接查询时,只保留两张表中完全匹配的结果集。
只有当两个表中都有匹配的记录时,这些记录才会出现在查询结果中。如果某一方没有匹配的记录,则该记录不会出现在结果集中。
内联可以用来找出两个表中共同的记录,相当于两个数据集的交集。
②、left join
返回左表(FROM 子句中指定的表)的所有记录,以及右表中匹配记录的记录。如果右表中没有匹配的记录,则结果中右表的部分会以 NULL 填充。
③、right join
刚好与左联相反,返回右表(FROM 子句中指定的表)的所有记录,以及左表中匹配记录的记录。如果左表中没有匹配的记录,则结果中左表的部分会以 NULL 填充。
举例:有三张表,一张文章表 article(主要存文章标题 title) 一张文章详情表 article_detail (主要存文章的内容 content),一张文章评论表 comment(主要存储评论 content) ,可以通过文章 id 关联。
先来看内联:
sql
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM article a
INNER JOIN comment c ON a.id = c.article_id
LIMIT 2;
这个查询返回至少有一条评论的文章标题和评论内容的前 20 个字符,限制结果为前 2 条记录。
再来看左联:
sql
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM article a
LEFT JOIN comment c ON a.id = c.article_id
LIMIT 2;
这个查询返回所有文章的标题和文章评论的前 20 个字符,即使某些文章没有评论(这些情况下 CommentContent 为 NULL),限制结果为前 2 条记录。
最后来看右联:
sql
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM comment c
RIGHT JOIN article a ON a.id = c.article_id
LIMIT 2;
右联在这种情况下,其实比较别扭,因为可以直接使用左联来实现。
3.说一下数据库的三大范式? 🚀
三大范式的作用是为了减少数据冗余,提高数据完整性。
①、第一范式(1NF):确保表的每一列都是不可分割的基本数据单元,比如说用户地址,应该拆分成省、市、区、详细信息等 4 个字段。
②、第二范式(2NF):在 1NF 的基础上,要求数据库表中的每一列都和主键直接相关,而不能只与主键的某一部分相关(主要针对联合主键)。
比如说在一个订单表中,可能会存在订单编号和商品编号,设计出来的表可能是这样的。
这个订单表中就存在冗余数据,比如说商品名称、单位、商品价格等,应该将其拆分为订单表、订单商品关联表、商品表。
③、第三范式(3NF):在 2NF 的基础上,消除非主键列对主键的传递依赖,即非主键列只依赖于主键列,不依赖于其他非主键列。
比如说在设计订单信息表的时候,可以把客户名称、所属公司、联系方式等信息拆分到客户信息表中,然后在订单信息表中用客户编号进行关联。
在实际开发过程中,三大范式有时候反而成为了老太婆的裹脚布,让表的设计变得复杂而又啰嗦,就像第二范式中提到的订单详情表,把商品价格和名称放在订单表中可以减少额外的 JOIN 操作,提高查询效率。
4.varchar 与 char 的区别? 🚀
char:
- char 表示定长字符串,长度是固定的;
- 如果插入数据的长度小于 char 的固定长度时,则用空格填充;
- 因为长度固定,所以存取速度要比 varchar 快很多,甚至能快 50%,但正因为其长度固定,所以会占据多余的空间,是空间换时间的做法;
- 对于 char 来说,最多能存放的字符个数为 255,和编码无关
varchar:
- varchar 表示可变长字符串,长度是可变的;
- 插入的数据是多长,就按照多长来存储;
- varchar 在存取方面与 char 相反,它存取慢,因为长度不固定,但正因如此,不占据多余的空间,是时间换空间的做法;
- 对于 varchar 来说,最多能存放的字符个数为 65532
日常的设计,对于长度相对固定的字符串,可以使用 char,对于长度不确定的,使用 varchar 更合适一些。
5.blob 和 text 有什么区别? 🚀
- blob 用于存储二进制数据,而 text 用于存储大字符串。
- blob 没有字符集,text 有一个字符集,并且根据字符集的校对规则对值进行排序和比较
6.DATETIME 和 TIMESTAMP 的异同? 🚀
相同点:
- 两个数据类型存储时间的表现格式一致。均为
YYYY-MM-DD HH:MM:SS
- 两个数据类型都包含「日期」和「时间」部分。
- 两个数据类型都可以存储微秒的小数秒(秒后 6 位小数秒)
DATETIME 和 TIMESTAMP 的区别:
- 日期范围:DATETIME 的日期范围是
1000-01-01 00:00:00.000000
到9999-12-31 23:59:59.999999
;TIMESTAMP 的时间范围是1970-01-01 00:00:01.000000 UTC
到2038-01-09 03:14:07.999999 UTC
- 存储空间:DATETIME 的存储空间为 8 字节;TIMESTAMP 的存储空间为 4 字节
- 时区相关:DATETIME 存储时间与时区无关;TIMESTAMP 存储时间与时区有关,显示的值也依赖于时区
- 默认值:DATETIME 的默认值为 null;TIMESTAMP 的字段默认不为空(not null),默认值为当前时间(CURRENT_TIMESTAMP)
7.MySQL 中 in 和 exists 的区别? 🚀
MySQL 中的 in 语句是把外表和内表作 hash 连接,而 exists 语句是对外表作 loop 循环,每次 loop 循环再对内表进行查询。我们可能认为 exists 比 in 语句的效率要高,这种说法其实是不准确的,要区分情景:
- 如果查询的两个表大小相当,那么用 in 和 exists 差别不大。
- 如果两个表中一个较小,一个是大表,则子查询表大的用 exists,子查询表小的用 in。
- not in 和 not exists:如果查询语句使用了 not in,那么内外表都进行全表扫描,没有用到索引;而 not extsts 的子查询依然能用到表上的索引。所以无论那个表大,用 not exists 都比 not in 要快。
8.MySQL 里记录货币用什么字段类型比较好? 🚀
货币在数据库中 MySQL 常用 Decimal 和 Numeric 类型表示,这两种类型被 MySQL 实现为同样的类型。他们被用于保存与货币有关的数据。
例如 salary DECIMAL(9,2),9(precision)代表将被用于存储值的总的小数位数,而 2(scale)代表将被用于存储小数点后的位数。存储在 salary 列中的值的范围是从-9999999.99 到 9999999.99。
DECIMAL 和 NUMERIC 值作为字符串存储,而不是作为二进制浮点数,以便保存那些值的小数精度。
之所以不使用 float 或者 double 的原因:因为 float 和 double 是以二进制存储的,所以有一定的误差。
9.MySQL 怎么存储 emoji? 🚀
MySQL 的 utf8 字符集仅支持最多 3 个字节的 UTF-8 字符,但是 emoji 表情(😊)是 4 个字节的 UTF-8 字符,所以在 MySQL 中存储 emoji 表情时,需要使用 utf8mb4 字符集。
sql
ALTER TABLE mytable CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
MySQL 8.0 已经默认支持 utf8mb4 字符集,可以通过 SHOW VARIABLES WHERE Variable_name LIKE 'character_set_%' OR Variable_name LIKE 'collation%';
查看。
10.drop、delete 与 truncate 的区别? 🚀
三者都表示删除,但是三者有一些差别:
区别 | delete | truncate | drop |
---|---|---|---|
类型 | 属于 DML | 属于 DDL | 属于 DDL |
回滚 | 可回滚 | 不可回滚 | 不可回滚 |
删除内容 | 表结构还在,删除表的全部或者一部分数据行 | 表结构还在,删除表中的所有数据 | 从数据库中删除表,所有数据行,索引和权限也会被删除 |
删除速度 | 删除速度慢,需要逐行删除 | 删除速度快 | 删除速度最快 |
因此,在不再需要一张表的时候,用 drop;在想删除部分数据行时候,用 delete;在保留表而删除所有数据的时候用 truncate。
11.UNION 与 UNION ALL 的区别? 🚀
- 如果使用 UNION,会在表链接后筛选掉重复的记录行
- 如果使用 UNION ALL,不会合并重复的记录行
- 从效率上说,UNION ALL 要比 UNION 快很多,如果合并没有刻意要删除重复行,那么就使用 UNION All
12.count(1)、count(*) 与 count(列名) 的区别? 🚀
执行效果:
- count(*)包括了所有的列,相当于行数,在统计结果的时候,不会忽略列值为 NULL
- count(1)包括了忽略所有列,用 1 代表代码行,在统计结果的时候,不会忽略列值为 NULL
- count(列名)只包括列名那一列,在统计结果的时候,会忽略列值为空(这里的空不是只空字符串或者 0,而是表示 null)的计数,即某个字段值为 NULL 时,不统计。
执行速度:
- 列名为主键,count(列名)会比 count(1)快
- 列名不为主键,count(1)会比 count(列名)快
- 如果表多个列并且没有主键,则 count(1) 的执行效率优于 count(*)
- 如果有主键,则 select count(主键)的执行效率是最优的
- 如果表只有一个字段,则 select count(*)最优。
13.一条 SQL 查询语句的执行顺序? 🚀
- FROM:对 FROM 子句中的左表<left_table>和右表<right_table>执行笛卡儿积(Cartesianproduct),产生虚拟表 VT1
- ON:对虚拟表 VT1 应用 ON 筛选,只有那些符合<join_condition>的行才被插入虚拟表 VT2 中
- JOIN:如果指定了 OUTER JOIN(如 LEFT OUTER JOIN、RIGHT OUTER JOIN),那么保留表中未匹配的行作为外部行添加到虚拟表 VT2 中,产生虚拟表 VT3。如果 FROM 子句包含两个以上表,则对上一个连接生成的结果表 VT3 和下一个表重复执行步骤 1)~步骤 3),直到处理完所有的表为止
- WHERE:对虚拟表 VT3 应用 WHERE 过滤条件,只有符合<where_condition>的记录才被插入虚拟表 VT4 中
- GROUP BY:根据 GROUP BY 子句中的列,对 VT4 中的记录进行分组操作,产生 VT5
- CUBE|ROLLUP:对表 VT5 进行 CUBE 或 ROLLUP 操作,产生表 VT6
- HAVING:对虚拟表 VT6 应用 HAVING 过滤器,只有符合<having_condition>的记录才被插入虚拟表 VT7 中。
- SELECT:第二次执行 SELECT 操作,选择指定的列,插入到虚拟表 VT8 中
- DISTINCT:去除重复数据,产生虚拟表 VT9
- ORDER BY:将虚拟表 VT9 中的记录按照<order_by_list>进行排序操作,产生虚拟表 VT10。11)
- LIMIT:取出指定行的记录,产生虚拟表 VT11,并返回给查询用户
67.介绍一下 MySQL 的常用命令 🚀
数据库操作:创建、删除、选择
表操作:创建、删除、显示所有表、查看表结构、修改表
数据操作:插入、查询、更新、删除
索引和约束:创建索引、添加主键索引、添加外键索引
用户和权限:创建用户、授予权限、撤销权限、删除用户
事务管理:开始事务、提交事务、回滚事务
说说数据库操作命令?
①、创建数据库:
sql
CREATE DATABASE database_name;
②、删除数据库:
sql
DROP DATABASE database_name;
③、选择数据库:
sql
USE database_name;
说说表操作命令?
①、创建表:
sql
CREATE TABLE table_name (
column1 datatype,
column2 datatype,
...
);
②、删除表:
sql
DROP TABLE table_name;
③、显示所有表:
sql
SHOW TABLES;
④、查看表结构:
sql
DESCRIBE table_name;
⑤、修改表(添加列):
sql
ALTER TABLE table_name ADD column_name datatype;
说说 CRUD 命令?
①、插入数据:
sql
INSERT INTO table_name (column1, column2, ...) VALUES (value1, value2, ...);
②、查询数据:
sql
SELECT column_names FROM table_name WHERE condition;
③、更新数据:
sql
UPDATE table_name SET column1 = value1, column2 = value2 WHERE condition;
④、删除数据:
sql
DELETE FROM table_name WHERE condition;
说说索引和约束的创建修改命令?
①、创建索引:
sql
CREATE INDEX index_name ON table_name (column_name);
②、添加主键约束:
sql
ALTER TABLE table_name ADD PRIMARY KEY (column_name);
③、添加外键约束:
sql
ALTER TABLE table_name ADD CONSTRAINT fk_name FOREIGN KEY (column_name) REFERENCES parent_table (parent_column_name);
说说用户和权限管理的命令?
①、创建用户:
sql
CREATE USER 'username'@'host' IDENTIFIED BY 'password';
②、授予权限:
sql
GRANT ALL PRIVILEGES ON database_name.table_name TO 'username'@'host';
③、撤销权限:
sql
REVOKE ALL PRIVILEGES ON database_name.table_name FROM 'username'@'host';
④、删除用户:
sql
DROP USER 'username'@'host';
说说事务控制的命令?
①、开始事务:
sql
START TRANSACTION;
②、提交事务:
sql
COMMIT;
③、回滚事务:
sql
ROLLBACK;
68.介绍一下 MySQL bin 目录下的可执行文件 🚀
- mysql:客户端程序,用于连接 MySQL 服务器
- mysqldump:一个非常实用的 MySQL 数据库备份工具,用于创建一个或多个 MySQL 数据库级别的 SQL 转储文件,包括数据库的表结构和数据。对数据备份、迁移或恢复非常重要。
- mysqladmin:mysql 后面加上 admin 就表明这是一个 MySQL 的管理工具,它可以用来执行一些管理操作,比如说创建数据库、删除数据库、查看 MySQL 服务器的状态等。
- mysqlcheck:mysqlcheck 是 MySQL 提供的一个命令行工具,用于检查、修复、分析和优化数据库表,对数据库的维护和性能优化非常有用。
- mysqlimport:用于从文本文件中导入数据到数据库表中,非常适合用于批量导入数据。
- mysqlshow:用于显示 MySQL 数据库服务器中的数据库、表、列等信息。
- mysqlbinlog:用于查看 MySQL 二进制日志文件的内容,可以用于恢复数据、查看数据变更等。
69.MySQL 第 3-10 条记录怎么查? 🚀
在 MySQL 中,要查询第 3 到第 10 条记录,可以使用 limit 语句,结合偏移量 offset 和行数 row_count 来实现。
limit 语句用于限制查询结果的数量,偏移量表示从哪条记录开始,行数表示返回的记录数量。
sql
SELECT * FROM table_name LIMIT 2, 8;
- 2:偏移量,表示跳过前两条记录,从第三条记录开始。
- 8:行数,表示从偏移量开始,返回 8 条记录。
偏移量是从 0 开始的,即第一条记录的偏移量是 0;如果想从第 3 条记录开始,偏移量就应该是 2。
73.用过哪些 MySQL 函数? 🚀
MySQL 支持很多内置函数,包括执行计算、格式转换、日期处理等,我说一些自己常用的。
用过哪些字符串函数来处理文本?
CONCAT()
: 连接两个或多个字符串。LENGTH()
: 返回字符串的长度。SUBSTRING()
: 从字符串中提取子字符串。REPLACE()
: 替换字符串中的某部分。LOWER()
和UPPER()
: 分别将字符串转换为小写或大写。TRIM()
: 去除字符串两侧的空格或其他指定字符。
sql
-- 连接字符串
SELECT CONCAT('沉默', ' ', '王二') AS concatenated_string;
-- 获取字符串长度
SELECT LENGTH('沉默 王二') AS string_length;
-- 提取子字符串
SELECT SUBSTRING('沉默 王二', 1, 5) AS substring;
-- 替换字符串内容
SELECT REPLACE('沉默 王二', '王二', 'MySQL') AS replaced_string;
-- 字符串转小写
SELECT LOWER('HELLO WORLD') AS lower_case;
-- 字符串转大写
SELECT UPPER('hello world') AS upper_case;
-- 去除字符串两侧的空格
SELECT TRIM(' 沉默 王二 ') AS trimmed_string;
用过哪些数值函数?
ABS()
: 返回一个数的绝对值。CEILING()
: 返回大于或等于给定数值的最小整数。FLOOR()
: 返回小于或等于给定数值的最大整数。ROUND()
: 四舍五入到指定的小数位数。MOD()
: 返回除法操作的余数。
sql
-- 返回绝对值
SELECT ABS(-123) AS absolute_value;
-- 向上取整
SELECT CEILING(123.45) AS ceiling_value;
-- 向下取整
SELECT FLOOR(123.45) AS floor_value;
-- 四舍五入
SELECT ROUND(123.4567, 2) AS rounded_value;
-- 余数
SELECT MOD(10, 3) AS modulus;
用过哪些日期和时间函数?
NOW()
: 返回当前的日期和时间。CURDATE()
: 返回当前的日期。CURTIME()
: 返回当前的时间。DATE_ADD()
和DATE_SUB()
: 在日期上加上或减去指定的时间间隔。DATEDIFF()
: 返回两个日期之间的天数。DAY()
,MONTH()
,YEAR()
: 分别返回日期的日、月、年部分。
sql
-- 返回当前日期和时间
SELECT NOW() AS current_date_time;
-- 返回当前日期
SELECT CURDATE() AS current_date;
-- 返回当前时间
SELECT CURTIME() AS current_time;
-- 在日期上添加天数
SELECT DATE_ADD(CURDATE(), INTERVAL 10 DAY) AS date_in_future;
-- 计算两个日期之间的天数
SELECT DATEDIFF('2024-12-31', '2024-01-01') AS days_difference;
-- 返回日期的年份
SELECT YEAR(CURDATE()) AS current_year;
用过哪些汇总函数?
SUM()
: 计算数值列的总和。AVG()
: 计算数值列的平均值。COUNT()
: 计算某列的行数。MAX()
和MIN()
: 分别返回列中的最大值和最小值。GROUP_CONCAT()
: 将多个行值连接为一个字符串。
sql
-- 创建一个表并插入数据进行聚合查询
CREATE TABLE sales (
product_id INT,
sales_amount DECIMAL(10, 2)
);
INSERT INTO sales (product_id, sales_amount) VALUES (1, 100.00);
INSERT INTO sales (product_id, sales_amount) VALUES (1, 150.00);
INSERT INTO sales (product_id, sales_amount) VALUES (2, 200.00);
-- 计算总和
SELECT SUM(sales_amount) AS total_sales FROM sales;
-- 计算平均值
SELECT AVG(sales_amount) AS average_sales FROM sales;
-- 计算总行数
SELECT COUNT(*) AS total_entries FROM sales;
-- 最大值和最小值
SELECT MAX(sales_amount) AS max_sale, MIN(sales_amount) AS min_sale FROM sales;
用过哪些逻辑函数?
IF()
: 如果条件为真,则返回一个值;否则返回另一个值。CASE
: 根据一系列条件返回值。COALESCE()
: 返回参数列表中的第一个非 NULL 值。
sql
-- IF函数
SELECT IF(1 > 0, 'True', 'False') AS simple_if;
-- CASE表达式
SELECT CASE WHEN 1 > 0 THEN 'True' ELSE 'False' END AS case_expression;
-- COALESCE函数
SELECT COALESCE(NULL, NULL, 'First Non-Null Value', 'Second Non-Null Value') AS first_non_null;
用过哪些格式化函数?
FORMAT()
: 格式化数字为格式化的字符串,通常用于货币显示。
sql
-- 格式化数字
SELECT FORMAT(1234567.8945, 2) AS formatted_number;
用过哪些类型转换函数?
CAST()
: 将一个值转换为指定的数据类型。CONVERT()
: 类似于CAST()
,用于类型转换。
sql
-- CAST函数
SELECT CAST('2024-01-01' AS DATE) AS casted_date;
-- CONVERT函数
SELECT CONVERT('123', SIGNED INTEGER) AS converted_number;
77.说说 SQL 的隐式数据类型转换? 🚀
在 SQL 中,当不同数据类型的值进行运算或比较时,会发生隐式数据类型转换。
比如说,当一个整数和一个浮点数相加时,整数会被转换为浮点数,然后再进行相加。
sql
SELECT 1 + 1.0; -- 结果为 2.0
比如说,当一个字符串和一个整数相加时,字符串会被转换为整数,然后再进行相加。
sql
SELECT '1' + 1; -- 结果为 2
数据类型隐式转换会导致意想不到的结果,所以要尽量避免隐式转换。
可以通过显式转换来规避这种情况。
sql
SELECT CAST('1' AS SIGNED INTEGER) + 1; -- 结果为 2
81. 说说 SQL 的语法树解析? 🚀
语法树(或抽象语法树,AST)是 SQL 解析过程中的中间表示,它使用树形结构表示 SQL 语句的层次和逻辑。语法树由节点(Node)组成,每个节点表示 SQL 语句中的一个语法元素。
- 根节点:通常是 SQL 语句的主要操作,例如 SELECT、INSERT、UPDATE、DELETE 等。
- 内部节点:表示语句中的操作符、子查询、连接操作等。例如,WHERE 子句、JOIN 操作等。
- 叶子节点:表示具体的标识符、常量、列名、表名等。例如,users 表、id 列、常量 1 等。
以一个简单的 SQL 查询语句为例:
sql
SELECT name, age FROM users WHERE age > 18;
这个查询语句的语法树可以表示为:
SELECT
/ \
Columns FROM
/ \ |
name age users
|
WHERE
|
age > 18
根节点:SELECT,表示这是一个查询操作。
子节点:Columns 和 FROM。
- Columns 子树表示查询的列,包含两个叶子节点:name 和 age。
- FROM 子树表示查询的数据源,包含一个叶子节点:users 表。
条件节点:WHERE 子树表示查询条件,包含条件表达式 age > 18
。
数据库架构
14.说说 MySQL 的基础架构? 🚀
MySQL 的架构大致可以分为三层,从上到下依次是:连接层、服务层、和存储引擎层。
①、连接层主要负责客户端连接的管理,包括验证用户身份、权限校验、连接管理等。可以通过数据库连接池来提升连接的处理效率。
②、服务层是 MySQL 的核心,主要负责查询解析、优化、执行等操作。在这一层,SQL 语句会经过解析、优化器优化,然后转发到存储引擎执行,并返回结果。这一层包含查询解析器、优化器、执行计划生成器、缓存(如查询缓存)、日志模块等。
③、存储引擎层负责数据的实际存储和提取,是 MySQL 架构中与数据交互最直接的层。MySQL 支持多种存储引擎,如 InnoDB、MyISAM、Memory 等。
binlog写入在哪一层?
binlog 在服务层,负责记录 SQL 语句的变化。它记录了所有对数据库进行更改的操作,用于数据恢复、主从复制等。
15.一条 SQL 查询语句在 MySQL 中如何执行的? 🚀
第一步,客户端发送 SQL 查询语句到 MySQL 服务器。
第二步,MySQL 服务器的连接器开始处理这个请求,跟客户端建立连接、获取权限、管理连接。
第三步(MySQL 8.0 以后已经干掉了),连接建立后,MySQL 服务器的查询缓存组件会检查是否有缓存的查询结果。如果有,直接返回给客户端;如果没有,进入下一步。
第三步,解析器开始对 SQL 语句进行解析,检查语句是否符合 SQL 语法规则,确保引用的数据库、表和列都存在,并处理 SQL 语句中的名称解析和权限验证。
第四步,优化器负责确定 SQL 语句的执行计划,这包括选择使用哪些索引,以及决定表之间的连接顺序等。优化器会尝试找出最高效的方式来执行查询。
第五步,执行器会调用存储引擎的 API 来进行数据的读写。
第六步,MySQL 的存储引擎是插件式的,不同的存储引擎在细节上面有很大不同。例如,InnoDB 是支持事务的,而 MyISAM 是不支持的。之后,会将执行结果返回给客户端
第七步,客户端接收到查询结果,完成这次查询请求。
78.说说 MySQL 的数据存储形式 🚀
MySQL 是以表的形式存储数据的,而表空间的结构则由段、区、页、行组成。
①、段(Segment):表空间由多个段组成,常见的段有数据段、索引段、回滚段等。
创建索引时会创建两个段,数据段和索引段,数据段用来存储叶子阶段中的数据;索引段用来存储非叶子节点的数据。
回滚段包含了事务执行过程中用于数据回滚的旧数据。
②、区(Extent):段由一个或多个区组成,区是一组连续的页,通常包含 64 个连续的页,也就是 1M 的数据。
使用区而非单独的页进行数据分配可以优化磁盘操作,减少磁盘寻道时间,特别是在大量数据进行读写时。
③、页(Page):页是 InnoDB 存储数据的基本单元,标准大小为 16 KB,索引树上的一个节点就是一个页。
也就意味着数据库每次读写都是以 16 KB 为单位的,一次最少从磁盘中读取 16KB 的数据到内存,一次最少写入 16KB 的数据到磁盘。
④、行(Row):InnoDB 采用行存储方式,意味着数据按照行进行组织和管理,行数据可能有多个格式,比如说 COMPACT、REDUNDANT、DYNAMIC 等。
MySQL 8.0 默认的行格式是 DYNAMIC,由COMPACT 演变而来,意味着这些数据如果超过了页内联存储的限制,则会被存储在溢出页中。
可以通过 show table status like '%article%'
查看行格式。
存储引擎
16.MySQL 有哪些常见存储引擎? 🚀
MySQL 支持多种存储引擎,常见的有 MyISAM、InnoDB、MEMORY 等。MEMORY 并不常用。
InnoDB:支持事务、支持行级锁、支持外键、MySQL默认存储引擎
MyISAM:不支持事务、支持表级锁、不支持外键
Memory:存储在内存
我来做一个表格对比:
功能 | InnoDB | MyISAM | MEMORY |
---|---|---|---|
支持事务 | Yes | No | No |
支持全文索引 | Yes | Yes | No |
支持 B+树索引 | Yes | Yes | Yes |
支持哈希索引 | Yes | No | Yes |
支持外键 | Yes | No | No |
除此之外,我还了解到:
①、MySQL 5.5 之前,默认存储引擎是 MyISAM,5.5 之后是 InnoDB。
②、InnoDB 支持的哈希索引是自适应的,不能人为干预。
③、InnoDB 从 MySQL 5.6 开始,支持全文索引。
④、InnoDB 的最小表空间略小于 10M,最大表空间取决于页面大小(page size)。
InnoDB Page Size | Maximum Tablespace Size |
---|---|
4 KB | 16 TB |
8 KB | 32 TB |
16 KB | 64 TB |
32 KB | 128 TB |
64 KB | 256 TB |
如何切换 MySQL 的数据引擎?
可以通过 alter table 语句来切换 MySQL 的数据引擎。
sql
ALTER TABLE your_table_name ENGINE=InnoDB;
不过不建议,应该提前设计好到底用哪一种存储引擎。
17.那存储引擎应该怎么选择? 🚀
- 大多数情况下,使用默认的 InnoDB 就对了,InnoDB 可以提供事务、行级锁、外键、B+ 树索引等能力。
- MyISAM 适合读更多的场景。
- MEMORY 适合临时表,数据量不大的情况。由于数据都存放在内存,所以速度非常快。
18.InnoDB 和 MyISAM 主要有什么区别? 🚀
InnoDB 和 MyISAM 之间的区别主要表现在存储结构、事务支持、最小锁粒度、索引类型、主键必需、表的具体行数、外键支持等方面。
①、存储结构:
- MyISAM:用三种格式的文件来存储,.frm 文件存储表的定义;.MYD 存储数据;.MYI 存储索引。
- InnoDB:用两种格式的文件来存储,.frm 文件存储表的定义;.ibd 存储数据和索引。
②、事务支持:
- MyISAM:不支持事务。
- InnoDB:支持事务。
③、最小锁粒度:
- MyISAM:表级锁,高并发中写操作存在性能瓶颈。
- InnoDB:行级锁,并发写入性能高。
④、索引类型:
MyISAM 为非聚簇索引,索引和数据分开存储,索引保存的是数据文件的指针。
InnoDB 为聚簇索引,索引和数据不分开。
⑤、外键支持:MyISAM 不支持外键;InnoDB 支持外键。
⑥、主键必需:MyISAM 表可以没有主键;InnoDB 表必须有主键。
⑦、表的具体行数:MyISAM 表的具体行数存储在表的属性中,查询时直接返回;InnoDB 表的具体行数需要扫描整个表才能返回。
日志
19.MySQL 日志文件有哪些?分别介绍下作用? 🚀
MySQL 的日志文件主要包括:
①、错误日志(Error Log):记录 MySQL 服务器启动、运行或停止时出现的问题。
②、慢查询日志(Slow Query Log):记录执行时间超过 long_query_time 值的所有 SQL 语句。这个时间值是可配置的,默认情况下,慢查询日志功能是关闭的。可以用来识别和优化慢 SQL。
③、一般查询日志(General Query Log):记录所有 MySQL 服务器的连接信息及所有的 SQL 语句,不论这些语句是否修改了数据。
④、二进制日志(Binary Log):记录了所有修改数据库状态的 SQL 语句,以及每个语句的执行时间,如 INSERT、UPDATE、DELETE 等,但不包括 SELECT 和 SHOW 这类的操作。
⑤、重做日志(Redo Log):记录了对于 InnoDB 表的每个写操作,不是 SQL 级别的,而是物理级别的,主要用于崩溃恢复。
⑥、回滚日志(Undo Log,或者叫事务日志):记录数据被修改前的值,用于事务的回滚。
请重点说说 binlog?
binlog 是一种物理日志,会在磁盘上记录下数据库的所有修改操作,以便进行数据恢复和主从复制。
- 当发生数据丢失时,binlog 可以将数据库恢复到特定的时间点。
- 主服务器(master)上的二进制日志可以被从服务器(slave)读取,从而实现数据同步。
binlog 包括两类文件:
- 二进制索引文件(.index)
- 二进制日志文件(.00000*)
binlog 默认是没有启用的。要启用它,需要在 MySQL 的配置文件(my.cnf 或 my.ini)中设置 log_bin 参数。
properties
#开启binlog
log_bin = mysql-bin
#mysql-bin.*日志文件最大字节(单位:字节)
#设置最大100MB
max_binlog_size=104857600
#设置了只保留7天BINLOG(单位:天)
expire_logs_days = 7
#binlog日志只记录指定库的更新
#binlog-do-db=db_name
#binlog日志不记录指定库的更新
#binlog-ignore-db=db_name
#写缓冲多少次,刷一次磁盘,默认0
sync_binlog=0
简单说一下这里面参数的作用:
①、log_bin = mysql-bin
,启用 binlog,这样就可以在 MySQL 的数据目录中找到 db-bin.000001、db-bin.000002 等日志文件。
②、max_binlog_size=104857600
设置每个 binlog 文件的最大大小为 100MB(104857600 字节)。当 binlog 文件达到这个大小时,MySQL 会关闭当前文件并创建一个新的 binlog 文件。
③、expire_logs_days = 7
这条配置设置了 binlog 文件的自动过期时间为 7 天。过期的 binlog 文件将被自动删除。这有助于管理磁盘空间,防止长时间累积的 binlog 文件占用过多存储空间。
④、binlog-do-db=db_name
指定哪些数据库表的更新应该被记录。
⑤、binlog-ignore-db=db_name
指定忽略哪些数据库表的更新。
⑥、sync_binlog=0
这条配置设置了每多少次 binlog 写操作会触发一次磁盘同步操作。默认值 0 表示 MySQL 不会主动触发同步操作,而是依赖操作系统的磁盘缓存策略。
即当执行写操作时,数据会先写入操作系统的缓存,当缓存区满了再由操作系统将数据写入磁盘。
设置为 1 意味着每次 binlog 写操作后都会同步到磁盘,这可以提高数据安全性,但可能会对性能产生影响。
可以通过 show variables like '%log_bin%';
查看 binlog 是否开启。
mysql> show variables like '%log_bin%';
+---------------------------------+-------+
| Variable_name | Value |
+---------------------------------+-------+
| log_bin | OFF |
| log_bin_basename | |
| log_bin_index | |
| log_bin_trust_function_creators | OFF |
| log_bin_use_v1_row_events | OFF |
| sql_log_bin | ON |
+---------------------------------+-------+
6 rows in set (0.07 sec)
有了binlog为什么还要undolog redolog?
binlog 主要用于数据恢复和主从复制。它记录了所有对数据库执行的修改操作(如 INSERT、UPDATE、DELETE),以逻辑日志的形式保存。binlog 是 MySQL Server 层提供的日志,独立于存储引擎。
redo log 主要用于数据持久化和崩溃恢复。redo log 是 InnoDB 存储引擎特有的日志,用于记录数据的物理修改,确保数据库在崩溃或异常宕机后能够恢复到一致状态。
undo log 主要用于支持事务回滚和多版本并发控制(MVCC)。undo log 是 InnoDB 存储引擎提供的逻辑日志,用于记录数据的逻辑操作,如删除、更新前的数据快照。
当一个事务在 MySQL 中执行时,redo log、undo log 和 binlog 共同协作以确保数据的可靠性和一致性:
- 事务启动时,undo log 开始记录修改前的数据快照,以便在发生错误或显式回滚时恢复数据。
- 数据被修改时,InnoDB 会将修改记录到 redo log 中,同时也会生成相应的 undo log。
- 事务提交时,InnoDB 首先将 redo log 刷入磁盘,然后再将整个事务的操作记录到 binlog 中。这一过程称为“两阶段提交”,确保 binlog 和 redo log 的一致性。
- 如果数据库发生崩溃,InnoDB 会使用 redo log 进行恢复,确保数据不会丢失。binlog 则可以用来做主从复制或数据恢复到特定时间点。
说说 redolog的工作机制?
redo log 由两部分组成:ib_logfile0 和 ib_logfile1。这两个文件的总大小是固定的,默认情况下每个文件为 48MB,总共 96MB。它们以循环的方式写入,即当写满后,从头开始覆盖旧的日志。
每次修改数据时,都会生成一个新的日志序列号(Log Sequence Number),用于标记 redo log 中的日志位置,以确保数据恢复的一致性。
当一个事务对数据进行修改时,InnoDB 会首先将这些修改记录到 redo log 中,而不是直接写入磁盘的数据文件。具体步骤分为三步:
- 在缓冲池(Buffer Pool)中修改数据页。
- 将修改操作记录到 redo log buffer 中(这是内存中的一个日志缓冲区)。
- 当事务提交时,InnoDB 会将 redo log buffer 中的数据刷新到磁盘上的 redo log 文件中(ib_logfile0、ib_logfile1 等),保证事务的持久性。
- 当 MySQL 发生崩溃后,InnoDB 会在重启时读取 redo log,找到最近一次的检查点(checkpoint),然后从该检查点开始,重放(replay) redo log 中的日志记录,将所有已提交事务的修改重做一遍,恢复数据库到崩溃前的一致性状态。
说说 WAL?
WAL(Write-Ahead Logging,预写日志)的核心思想是先写日志,再写数据,即在对数据进行任何修改之前,必须先将修改的日志记录(redo log)持久化到磁盘。
通过先写日志,确保系统在发生故障时可以通过重做日志恢复数据。
20.binlog 和 redo log 有什么区别? 🚀
binlog,即二进制日志,对所有存储引擎都可用,是 MySQL 服务器级别的日志,用于数据的复制、恢复和备份。而 redo log 主要用于保证事务的持久性,是 InnoDB 存储引擎特有的日志类型。
binlog 记录的是逻辑 SQL 语句,而 redo log 记录的是物理数据页的修改操作,不是具体的 SQL 语句。
redo log 是固定大小的,通常配置为一组文件,使用环形方式写入,旧的日志会在空间需要时被覆盖。binlog 是追加写入的,新的事件总是被添加到当前日志文件的末尾,当文件达到一定大小后,会创建新的 binlog 文件继续记录。
21.一条更新语句怎么执行的了解吗?
更新语句的执行是 Server 层和引擎层配合完成,数据除了要写入表中,还要记录相应的日志。
- 执行器先找引擎获取 ID=2 这一行。ID 是主键,存储引擎检索数据,找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
- 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
- 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
- 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
- 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。
从上图可以看出,MySQL 在执行更新语句的时候,在服务层进行语句的解析和执行,在引擎层进行数据的提取和存储;同时在服务层对 binlog 进行写入,在 InnoDB 内进行 redo log 的写入。
不仅如此,在对 redo log 写入时有两个阶段的提交,一是 binlog 写入之前prepare
状态的写入,二是 binlog 写入之后commit
状态的写入。
22.那为什么要两阶段提交呢?
为什么要两阶段提交呢?直接提交不行吗?
我们可以假设不采用两阶段提交的方式,而是采用“单阶段”进行提交,即要么先写入 redo log,后写入 binlog;要么先写入 binlog,后写入 redo log。这两种方式的提交都会导致原先数据库的状态和被恢复后的数据库的状态不一致。
先写入 redo log,后写入 binlog:
在写完 redo log 之后,数据此时具有crash-safe
能力,因此系统崩溃,数据会恢复成事务开始之前的状态。但是,若在 redo log 写完时候,binlog 写入之前,系统发生了宕机。此时 binlog 没有对上面的更新语句进行保存,导致当使用 binlog 进行数据库的备份或者恢复时,就少了上述的更新语句。从而使得id=2
这一行的数据没有被更新。
先写入 binlog,后写入 redo log:
写完 binlog 之后,所有的语句都被保存,所以通过 binlog 复制或恢复出来的数据库中 id=2 这一行的数据会被更新为 a=1。但是如果在 redo log 写入之前,系统崩溃,那么 redo log 中记录的这个事务会无效,导致实际数据库中id=2
这一行的数据并没有更新。
简单说,redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。
23.redo log 怎么刷入磁盘的知道吗?
redo log 的写入不是直接落到磁盘,而是在内存中设置了一片称之为redo log buffer
的连续内存空间,也就是redo 日志缓冲区
。
什么时候会刷入磁盘?
在如下的一些情况中,log buffer 的数据会刷入磁盘:
- log buffer 空间不足时
log buffer 的大小是有限的,如果不停的往这个有限大小的 log buffer 里塞入日志,很快它就会被填满。如果当前写入 log buffer 的 redo 日志量已经占满了 log buffer 总容量的大约一半左右,就需要把这些日志刷新到磁盘上。
- 事务提交时
在事务提交时,为了保证持久性,会把 log buffer 中的日志全部刷到磁盘。注意,这时候,除了本事务的,可能还会刷入其它事务的日志。
- 后台线程输入
有一个后台线程,大约每秒都会刷新一次log buffer
中的redo log
到磁盘。
- 正常关闭服务器时
- 触发 checkpoint 规则
重做日志缓存、重做日志文件都是以块(block)的方式进行保存的,称之为重做日志块(redo log block),块的大小是固定的 512 字节。我们的 redo log 它是固定大小的,可以看作是一个逻辑上的 log group,由一定数量的log block 组成。
它的写入方式是从头到尾开始写,写到末尾又回到开头循环写。
其中有两个标记位置:
write pos
是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint
是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到磁盘。
当write_pos
追上checkpoint
时,表示 redo log 日志已经写满。这时候就不能接着往里写数据了,需要执行checkpoint
规则腾出可写空间。
所谓的checkpoint 规则,就是 checkpoint 触发后,将 buffer 中日志页都刷到磁盘。
SQL 优化
24.慢 SQL 如何定位呢? 🚀
什么是慢 SQL?
顾名思义,慢 SQL 也就是执行时间较长的 SQL 语句,MySQL 中 long_query_time 默认值是 10 秒,也就是执行时间超过 10 秒的 SQL 语句会被记录到慢查询日志中。
可通过 show variables like 'long_query_time';
查看当前的 long_query_time 值。生产环境中,10 秒太久了,超过 1 秒的都可以认为是慢 SQL 了。
那怎么定位慢 SQL 呢?
要想定位慢 SQL,需要了解一下 SQL 的执行过程:
- 客户端发送 SQL 语句给 MySQL 服务器。
- 如果查询缓存打开则会优先查询缓存,如果缓存中有对应的结果,直接返回给客户端。不过,MySQL 8.0 版本已经移除了查询缓存。
- 分析器对 SQL 语句进行语法分析,判断是否有语法错误。
- 搞清楚 SQL 语句要干嘛后,MySQL 还会通过优化器生成执行计划。
- 执行器调用存储引擎的接口,执行 SQL 语句。
SQL 执行过程中,优化器通过成本计算预估出执行效率最高的方式,基本的预估维度为:
- IO 成本:从磁盘读取数据到内存的开销。
- CPU 成本:CPU 处理内存中数据的开销。
基于这两个维度,可以得出影响 SQL 执行效率的因素有:
①、IO 成本
- 数据量:数据量越大,IO 成本越高。所以要避免
select *
;尽量分页查询。 - 数据从哪读取:尽量通过索引加快查询。
②、CPU 成本
- 尽量避免复杂的查询条件,如有必要,考虑对子查询结果进行过滤。
- 尽量缩减计算成本,比如说为排序字段加上索引,提高排序效率;比如说使用 union all 替代 union,减少去重处理。
排查 SQL 效率主要通过两种手段:
- 慢查询日志:开启 MySQL 慢查询日志,再通过一些工具比如 mysqldumpslow 去分析对应的慢查询日志,找出问题的根源。
- 服务监控:可以在业务的基建中加入对慢 SQL 的监控,常见的方案有字节码插桩、连接池扩展、ORM 框架过程,对服务运行中的慢 SQL 进行监控和告警。
也可以使用 show processlist;
查看当前正在执行的 SQL 语句,找出执行时间较长的 SQL。
找到对应的慢 SQL 后,使用 EXPLAIN 命令查看 MySQL 是如何执行 SQL 语句的,再根据执行计划对 SQL 进行优化。
sql
EXPLAIN SELECT * FROM your_table WHERE conditions;
慢sql日志怎么开启?
慢 SQL 日志的开启方式有多种,比如说直接编辑 MySQL 的配置文件 my.cnf 或 my.ini,设置 slow_query_log 参数为 1,设置 slow_query_log_file 参数为慢查询日志的路径,设置 long_query_time 参数为慢查询的时间阈值。
ini
[mysqld]
slow_query_log = 1
slow_query_log_file = /var/log/mysql/slow.log
long_query_time = 2 # 记录执行时间超过2秒的查询
然后重启 MySQL 服务就好了,也可以通过 set global 命令动态设置。
sql
SET GLOBAL slow_query_log = 'ON';
SET GLOBAL slow_query_log_file = '/var/log/mysql/slow.log';
SET GLOBAL long_query_time = 2;
25.有哪些方式优化 SQL? 🚀
我在进行 SQL 优化的时候,主要通过以下几个方面进行优化:
- 避免查询不必要的列:尽量不用select *
- 分页优化:延迟关联、书签
- 索引优化:索引覆盖、避免使用
!=
和<>
、适当使用前缀索引、避免列上函数运算、正确使用联合索引 - JOIN优化:优化子查询、小表驱动大表、适当增加冗余字段、避免join太多表
- 排序优化:利用索引扫描做排序
- UNION优化:条件下推、
UNION ALL
替代UNION
如何避免不必要的列?
比如说尽量避免使用 select *
,只查询需要的列,减少数据传输量。
sql
SELECT * FROM employees WHERE department_id = 5;
改成:
sql
SELECT employee_id, first_name, last_name FROM employees WHERE department_id = 5;
如何进行分页优化?
当数据量巨大时,传统的LIMIT
和OFFSET
可能会导致性能问题,因为数据库需要扫描OFFSET + LIMIT
数量的行。
延迟关联(Late Row Lookups)和书签(Seek Method)是两种优化分页查询的有效方法。
①、延迟关联
延迟关联适用于需要从多个表中获取数据且主表行数较多的情况。它首先从索引表中检索出需要的行 ID,然后再根据这些 ID 去关联其他的表获取详细信息。
sql
SELECT e.id, e.name, d.details
FROM employees e
JOIN department d ON e.department_id = d.id
ORDER BY e.id
LIMIT 1000, 20;
延迟关联后:
sql
SELECT e.id, e.name, d.details
FROM (
SELECT id
FROM employees
ORDER BY id
LIMIT 1000, 20
) AS sub
JOIN employees e ON sub.id = e.id
JOIN department d ON e.department_id = d.id;
首先对employees
表进行分页查询,仅获取需要的行的 ID,然后再根据这些 ID 关联获取其他信息,减少了不必要的 JOIN 操作。
②、书签(Seek Method)
书签方法通过记住上一次查询返回的最后一行的某个值,然后下一次查询从这个值开始,避免了扫描大量不需要的行。
假设需要对用户表进行分页,根据用户 ID 升序排列。
sql
SELECT id, name
FROM users
ORDER BY id
LIMIT 1000, 20;
书签方式:
sql
SELECT id, name
FROM users
WHERE id > last_max_id -- 假设last_max_id是上一页最后一行的ID
ORDER BY id
LIMIT 20;
优化后的查询不再使用OFFSET
,而是直接从上一页最后一个用户的 ID 开始查询。这里的last_max_id
是上一次查询返回的最后一行的用户 ID。这种方法有效避免了不必要的数据扫描,提高了分页查询的效率。
如何进行索引优化?
正确地使用索引可以显著减少 SQL 的查询时间,通常可以从索引覆盖、避免使用 !=
或者 <>
操作符、适当使用前缀索引、避免列上函数运算、正确使用联合索引等方面进行优化。
①、利用覆盖索引
使用非主键索引查询数据时需要回表,但如果索引的叶节点中已经包含要查询的字段,那就不会再回表查询了,这就叫覆盖索引。
举个例子,现在要从 test 表中查询 city 为上海的 name 字段。
sql
select name from test where city='上海'
如果仅在 city 字段上添加索引,那么这条查询语句会先通过索引找到 city 为上海的行,然后再回表查询 name 字段,这就是回表查询。
为了避免回表查询,可以在 city 和 name 字段上建立联合索引,这样查询结果就可以直接从索引中获取。
sql
alter table test add index index1(city,name);
②、避免使用 != 或者 <> 操作符
!=
或者 <>
操作符会导致 MySQL 无法使用索引,从而导致全表扫描。
例如,可以把column<>'aaa'
,改成column>'aaa' or column<'aaa'
,就可以使用索引了。
优化策略就是尽可能使用 =
、>
、<
、BETWEEN
等操作符,它们能够更好地利用索引。
③、适当使用前缀索引
适当使用前缀索引可以降低索引的空间占用,提高索引的查询效率。
比如,邮箱的后缀一般都是固定的@xxx.com
,那么类似这种后面几位为固定值的字段就非常适合定义为前缀索引:
sql
alter table test add index index2(email(6));
需要注意的是,MySQL 无法利用前缀索引做 order by 和 group by 操作。
④、避免列上使用函数
在 where 子句中直接对列使用函数会导致索引失效,因为数据库需要对每行的列应用函数后再进行比较,无法直接利用索引。
sql
select name from test where date_format(create_time,'%Y-%m-%d')='2021-01-01';
可以改成:
sql
select name from test where create_time>='2021-01-01 00:00:00' and create_time<'2021-01-02 00:00:00';
通过日期的范围查询,而不是在列上使用函数,可以利用 create_time 上的索引。
⑤、正确使用联合索引
正确地使用联合索引可以极大地提高查询性能,联合索引的创建应遵循最左前缀原则,即索引的顺序应根据列在查询中的使用频率和重要性来安排。
sql
select * from messages where sender_id=1 and receiver_id=2 and is_read=0;
那就可以为 sender_id、receiver_id 和 is_read 这三个字段创建联合索引,但是要注意索引的顺序,应该按照查询中的字段顺序来创建索引。
sql
alter table messages add index index3(sender_id,receiver_id,is_read);
如何进行 JOIN 优化?
对于 JOIN 操作,可以通过优化子查询、小表驱动大表、适当增加冗余字段、避免 join 太多表等方式来进行优化。
①、优化子查询
子查询,特别是在 select 列表和 where 子句中的子查询,往往会导致性能问题,因为它们可能会为每一行外层查询执行一次子查询。
使用子查询:
sql
select name from A where id in (select id from B);
使用 JOIN 代替子查询:
sql
select A.name from A join B on A.id=B.id;
②、小表驱动大表
在执行 JOIN 操作时,应尽量让行数较少的表(小表)驱动行数较多的表(大表),这样可以减少查询过程中需要处理的数据量。
比如 left join,左表是驱动表,所以 A 表应小于 B 表,这样建立连接的次数就少,查询速度就快了。
sql
select name from A left join B;
③、适当增加冗余字段
在某些情况下,通过在表中适当增加冗余字段来避免 JOIN 操作,可以提高查询效率,尤其是在高频查询的场景下。
比如,我们有一个订单表和一个商品表,查询订单时需要显示商品名称,如果每次都通过 JOIN 操作查询商品表,会降低查询效率。这时可以在订单表中增加一个冗余字段,存储商品名称,这样就可以避免 JOIN 操作。
sql
select order_id,product_name from orders;
④、避免使用 JOIN 关联太多的表
《阿里巴巴 Java 开发手册》上就规定,不要使用 join 关联太多的表,最多不要超过 3 张表。
因为 join 太多表会降低查询的速度,返回的数据量也会变得非常大,不利于后续的处理。
如果业务逻辑允许,可以考虑将复杂的 JOIN 查询分解成多个简单查询,然后在应用层组合这些查询的结果。
如何进行排序优化?
MySQL 生成有序结果的方式有两种:一种是对结果集进行排序操作,另外一种是按照索引顺序扫描得出的自然有序结果。
因此在设计索引的时候要充分考虑到排序的需求。
sql
select id, name from users order by name;
如果 name 字段上有索引,那么 MySQL 可以直接利用索引的有序性,避免排序操作。
如何进行 UNION 优化?
UNION 操作用于合并两个或者多个 SELECT 语句的结果集。
①、条件下推
条件下推是指将 where、limit 等子句下推到 union 的各个子查询中,以便优化器可以充分利用这些条件进行优化。
假设我们有两个查询分支,需要合并结果并过滤:
sql
SELECT * FROM (
SELECT * FROM A
UNION
SELECT * FROM B
) AS sub
WHERE sub.id = 1;
可以改写成:
sql
SELECT * FROM A WHERE id = 1
UNION
SELECT * FROM B WHERE id = 1;
通过将查询条件下推到 UNION 的每个分支中,每个分支查询都只处理满足条件的数据,减少了不必要的数据合并和过滤。
26.怎么看执行计划 explain,如何理解其中各个字段的含义? 🚀
explain 是 MySQL 提供的一个用于查看查询执行计划的工具,可以帮助我们分析查询语句的性能瓶颈,找出慢 SQL 的原因。
使用方式也非常简单,在 select 语句前加上 explain
关键字就可以了。
sql
explain select * from students where id =9
接下来,我们需要理解 explain 输出结果中各个字段的含义。
①、id 列:查询的标识符。
②、select_type 列:查询的类型。常见的类型有:
- SIMPLE:简单查询,不包含子查询或者 UNION 查询。
- PRIMARY:查询中如果包含子查询,则最外层查询被标记为 PRIMARY。
- SUBQUERY:子查询。
- DERIVED:派生表的 SELECT,FROM 子句的子查询。
③、table 列:查的哪个表。
④、type 列:表示 MySQL 在表中找到所需行的方式,性能从最优到最差分别为:system > const > eq_ref > ref > range > index > ALL。
- system,表只有一行,一般是系统表,往往不需要进行磁盘 IO,速度非常快
- const、eq_ref、ref:这些类型表示 MySQL 可以使用索引来查找单个行,其中 const 是最优的,表示查询最多返回一行。
- range:只检索给定范围的行,使用索引来检索。在
where
语句中使用bettween...and
、<
、>
、<=
、in
等条件查询type
都是range
。 - index:遍历索引树读取。
- ALL:全表扫描,效率最低。
⑤、possible_keys 列:可能会用到的索引,但并不一定实际被使用。
⑥、key 列:实际使用的索引。如果为 NULL,则没有使用索引。
⑦、key_len 列:MySQL 决定使用的索引长度(以字节为单位)。当表有多个索引可用时,key_len 字段可以帮助识别哪个索引最有效。通常情况下,更短的 key_len 意味着数据库在比较键值时需要处理更少的数据。
⑧、ref 列:用于与索引列比较的值来源。
- const:表示常量,这个值是在查询中被固定的。例如在 WHERE
column = 'value'
中。 - 一个或多个列的名称,通常在 JOIN 操作中,表示 JOIN 条件依赖的字段。
- NULL,表示没有使用索引,或者查询使用的是全表扫描。
⑨、rows 列:估算查到结果集需要扫描的数据行数,原则上 rows 越少越好。
⑩、Extra 列:附加信息。
- Using index:表示只利用了索引。
- Using where:表示使用了 WHERE 过滤。
- Using temporary :表示使用了临时表来存储中间结果。
示例:
sql
explain SELECT * FROM tbl_testuser WHERE id=1;
id select_type table partitions type possible_keys key key_len ref rows filtered Extra
1 SIMPLE tbl_testuser const PRIMARY PRIMARY 4 const 1 100.00
索引
27.为什么使用索引会加快查询? 🚀
数据库文件是存储在磁盘上的,磁盘 I/O 是数据库操作中最耗时的部分之一。没有索引时,数据库会进行全表扫描(Sequential Scan),这意味着它必须读取表中的每一行数据来查找匹配的行(时间效率为 O(n))。当表的数据量非常大时,就会导致大量的磁盘 I/O 操作。
有了索引,就可以直接跳到索引指示的数据位置,而不必扫描整张表,从而大大减少了磁盘 I/O 操作的次数。
MySQL 的 InnoDB 存储引擎默认使用 B+ 树来作为索引的数据结构,而 B+ 树的查询效率非常高,时间复杂度为 O(logN)。
索引文件相较于数据库文件,体积小得多,查到索引之后再映射到数据库记录,查询效率就会高很多。
索引就好像书的目录,通过目录去查找对应的章节内容会比一页一页的翻书快很多。
可通过 create index
创建索引,比如:
sql
create index idx_name on students(name);
28.能简单说一下索引的分类吗? 🚀
MySQL 的索引可以显著提高查询的性能,可以从三个不同的维度对索引进行分类:
- 功能分类:主键索引、唯一索引、普通索引、全文索引
- 数据结构:B+树索引、哈希索引
- 存储位置:聚簇索引、非聚簇索引
01、说说从功能上的分类?
①、主键索引: 表中每行数据唯一标识的索引,强调列值的唯一性和非空性。
当创建表的时候,可以直接指定主键索引:
sql
CREATE TABLE users (
id INT AUTO_INCREMENT PRIMARY KEY,
username VARCHAR(255) NOT NULL,
email VARCHAR(255)
);
id 列被指定为主键索引,同时,MySQL 会自动为这个列创建一个聚簇索引(主键索引一定是聚簇索引)。
可以通过 show index from table_name
查看索引信息,比如前面创建的 users 表:
show index from tbl_testuser;
Table Non_unique Key_name Seq_in_index Column_name Collation Cardinality Sub_part Packed Null Index_type Comment Index_comment
tbl_testuser 0 PRIMARY 1 id A 2 BTREE
Non_unique
如果索引不能包含重复词,则为 0;如果可以,则为 1。这可以帮助我们区分是唯一索引还是普通索引。Key_name
索引的名称。如果索引是主键,那么这个值是 PRIMARY。Column_name
索引所包含的字段名。Index_type
索引的类型,比如 BTREE、HASH 等。
②、唯一索引: 保证数据列中每行数据的唯一性,但允许有空值。
可以通过下面的语句创建唯一索引:
sql
CREATE UNIQUE INDEX idx_username ON users(username);
同样可以通过 show index from table_name
确认索引信息,Non_unique
为 0,表示这是一个唯一索引。
③、普通索引: 基本的索引类型,用于加速查询。
可以通过下面的语句创建普通索引:
sql
CREATE INDEX idx_email ON users(email);
这次我们通过下面的语句一起把三个索引的关键信息查出来:
sql
SELECT `TABLE_NAME` AS `Table`, `NON_UNIQUE`, `INDEX_NAME` AS `Key_name`, `COLUMN_NAME` AS `Column_name`, `INDEX_TYPE` AS `Index_type`
FROM information_schema.statistics
WHERE `TABLE_NAME` = 'users' AND `TABLE_SCHEMA` = DATABASE();
可以确定 idx_email 是一个普通索引,因为 Non_unique
为 1。
④、全文索引:特定于文本数据的索引,用于提高文本搜索的效率。
假设有一个名为 articles 的表,下面这条语句在 content 列上创建了一个全文索引。
sql
CREATE FULLTEXT INDEX idx_article_content ON articles(content);
02、说说从数据结构上分类?
①、B+树索引:最常见的索引类型,一种将索引值按照一定的算法,存入一个树形的数据结构中(二叉树),每次查询都从树的根节点开始,一次遍历叶子节点,找到对应的值。查询效率是 O(logN)。
也是 InnoDB 存储引擎的默认索引类型。
B+ 树是 B 树的升级版,B+ 树中的非叶子节点都不存储数据,只存储索引。叶子节点中存储了所有的数据,并且构成了一个从小到大的有序双向链表,使得在完成一次树的遍历定位到范围查询的起点后,可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。这在处理大范围的查询时特别高效。
因为 B+ 树是 InnoDB 的默认索引类型,所以创建 B+ 树的时候不需要指定索引类型。
sql
CREATE TABLE example_btree (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255),
INDEX name_index (name)
) ENGINE=InnoDB;
②、Hash 索引:基于哈希表的索引,查询效率可以达到 O(1),但是只适合 = 和 in 查询,不适合范围查询。
Hash 索引在原理上和 Java 中的 HashMap 类似,当发生哈希冲突的时候也是通过拉链法来解决。
可以通过下面的语句创建哈希索引:
sql
CREATE TABLE example_hash (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255),
UNIQUE HASH (name)
) ENGINE=MEMORY;
注意,我们这里创建的是 MEMORY 存储引擎,InnoDB 并不提供直接创建哈希索引的选项,因为 B+ 树索引能够很好地支持范围查询和等值查询,满足了大多数数据库操作的需要。
不过,InnoDB 存储引擎内部使用了一种名为“自适应哈希索引”(Adaptive Hash Index, AHI)的技术。
自适应哈希索引并不是由用户显式创建的,而是 InnoDB 根据数据访问的模式自动建立和管理的。当 InnoDB 发现某个索引被频繁访问时,会在内存中创建一个哈希索引,以加速对这个索引的访问。
可以通过下面的语句查看自适应哈希索引的状态:
sql
SHOW VARIABLES LIKE 'innodb_adaptive_hash_index';
如果返回的值是 ON,说明自适应哈希索引是开启的。
03、说说从存储位置上分类:
①、聚簇索引:聚簇索引的叶子节点保存了一行记录的所有列信息。也就是说,聚簇索引的叶子节点中,包含了一个完整的记录行。
②、非聚簇索引:它的叶子节点只包含一个主键值,通过非聚簇索引查找记录要先找到主键,然后通过主键再到聚簇索引中找到对应的记录行,这个过程被称为回表。
InnoDB 存储引擎的主键使用的是聚簇索引,MyISAM 存储引擎不管是主键索引,还是二级索引使用的都是非聚簇索引。
想要了解 B 树和 B+树的更多区别,推荐阅读:
- GitHub:B 树和 B+树详解
- 思否:面试官问你 B 树和 B+树,就把这篇文章丢给他
- 极客时间:为什么用 B+树来做索引?
- 一颗剽悍的种子:用 16 张图就给你讲明白 MySQL 为什么要用 B+树做索引
想要了解更多聚簇索引和非聚簇索引,推荐阅读:
29.创建索引有哪些注意点? 🚀
尽管索引能提高查询性能,但不当的使用也会带来一系列问题。在加索引时需要注意以下几点:
①、选择合适的列作为索引
- 经常作为查询条件(WHERE 子句)、排序条件(ORDER BY 子句)、分组条件(GROUP BY 子句)的列是建立索引的好候选。
- 区分度低的字段,例如性别,不要建索引
- 频繁更新的字段,不要作为主键或者索引
- 不建议用无序的值(例如身份证、UUID )作为索引,当主键具有不确定性,会造成叶子节点频繁分裂,出现磁盘存储的碎片化
②、避免过多的索引
- 每个索引都需要占用额外的磁盘空间。
- 更新表(INSERT、UPDATE、DELETE 操作)时,所有的索引都需要被更新。
- 维护索引文件需要成本;还会导致页分裂,IO 次数增多。
③、利用前缀索引和索引列的顺序
- 对于字符串类型的列,可以考虑使用前缀索引来减少索引大小。
- 在创建复合索引时,应该根据查询条件将最常用作过滤条件的列放在前面。
30.索引哪些情况下会失效呢? 🚀
- 在索引列上使用函数或表达式:如果在查询中对索引列使用了函数或表达式,那么索引可能无法使用,因为数据库无法预先计算出函数或表达式的结果。例如:
SELECT * FROM table WHERE YEAR(date_column) = 2021
。 - 使用不等于(
<>
)或者 NOT 操作符:这些操作符通常会使索引失效,因为它们会扫描全表。 - 使用 LIKE 操作符,但是通配符在最前面:如果 LIKE 的模式串是以“%”或者“_”开头的,那么索引也无法使用。例如:
SELECT * FROM table WHERE column LIKE '%abc'
。 - OR 操作符:如果查询条件中使用了 OR,并且 OR 两边的条件分别涉及不同的索引,那么这些索引可能都无法使用。
- 联合索引不满足最左前缀原则时,索引会失效。
31.索引不适合哪些场景呢? 🚀
- 数据表较小:当表中的数据量很小,或者查询需要扫描表中大部分数据时,数据库优化器可能会选择全表扫描而不是使用索引。在这种情况下,维护索引的开销可能大于其带来的性能提升。
- 频繁更新的列:对于经常进行更新、删除或插入操作的列,使用索引可能会导致性能下降。因为每次数据变更时,索引也需要更新,这会增加额外的写操作负担。
性别字段要建立索引吗?
性别字段通常不适合建立索引。因为性别字段的选择性(区分度)较低,独立索引效果有限。
如果性别字段又很少用于查询,表的数据规模较小,那么建立索引反而会增加额外的存储空间和维护成本。
如果性别字段确实经常用于查询条件,数据规模也比较大,可以将性别字段作为复合索引的一部分,与选择性较高的字段一起加索引,会更好一些。
什么是区分度?
区分度(Selectivity)是衡量一个字段在数据库表中唯一值的比例,用来表示该字段在索引优化中的有效性。
区分度 = 字段的唯一值数量 / 字段的总记录数;接近 1,字段值大部分是唯一的。例如,用户的唯一 ID,一般都是主键索引。接近 0,则说明字段值重复度高。
例如,一个表中有 1000 条记录,其中性别字段只有两个值(男、女),那么性别字段的区分度只有 0.002。
高区分度的字段更适合拿来作为索引,因为索引可以更有效地缩小查询范围。
MySQL查看字段区分度的命令?
在 MySQL 中,可以通过 COUNT(DISTINCT column_name)
和 COUNT(*)
的比值来计算字段的区分度。例如:
sql
SELECT
COUNT(DISTINCT gender) / COUNT(*) AS gender_selectivity
FROM
users;
什么样的字段适合加索引?什么不适合?
适合加索引的字段包括:
- 经常出现在 WHERE 子句中的字段,如
SELECT * FROM users WHERE age = 30
中的 age 字段,加上索引后可以快速定位到满足条件的记录。 - 经常用于 JOIN 的字段,如
SELECT * FROM users u JOIN orders o ON u.id = o.user_id
中的 user_id 字段,加上索引后可以避免多表扫描。 - 经常出现在 ORDER BY 或 GROUP BY 子句中的字段,如
SELECT * FROM users ORDER BY age
中的 age 字段。加上索引后可以避免额外的排序操作。 - 高区分度的字段,查询时可以有效减少返回的数据行,比如用户 ID、邮箱等。
对应的,不适合加索引的字段包括:
- 低区分度字段,如性别、状态等。
- 经常更新的字段,如用户的登录时间、登录次数等。
- 不经常出现在查询条件中的字段,如用户的生日、地址等。
- 使用函数、运算符的字段。
32.索引是不是建的越多越好? 🚀
当然不是。
- 索引会占据磁盘空间
- 索引虽然会提高查询效率,但是会降低更新表的效率。每次对表进行增删改操作,MySQL 不仅要更新数据,还要更新对应的索引文件。
说说索引优化的思路?
①、选择合适的索引类型
- 如果需要等值查询和范围查询,请选择 B+树索引。
- 如果是用于处理文本数据的全文搜索,请选择全文索引。
②、创建适当的索引
- 创建组合索引时,应将查询中最常用、区分度高的列放在前面。对于查询条件
WHERE age = 18 AND gender = '女' AND city = '洛阳'
,如果 age 列的值相对较为分散,可以优先考虑将 age 放在组合索引的第一位。 - 使用 SELECT 语句时,尽量选择覆盖索引来避免不必要的回表操作,也就是说,索引中包含了查询所需的所有列;但要注意,覆盖索引的列数不宜过多,否则会增加索引的存储空间。
33.为什么 InnoDB 要使用 B+树作为索引?
- 推荐阅读:终于把 B 树搞明白了
- 推荐阅读:一篇文章讲透 MySQL 为什么要用 B+树实现索引
MySQL 的默认存储引擎是 InnoDB,它采用的是 B+树索引。
B 树是一种自平衡的多路查找树,和红黑树、二叉平衡树不同,B 树的每个节点可以有 m 个子节点,而红黑树和二叉平衡树都只有 2 个。
换句话说,红黑树、二叉平衡树是细高个,而 B 树是矮胖子。
内存和磁盘在进行 IO 读写的时候,有一个最小的逻辑单元,叫做页(Page),页的大小一般是 4KB。
那为了提高读写效率,从磁盘往内存中读数据的时候,一次会读取至少一页的数据,比如说读取 2KB 的数据,实际上会读取 4KB 的数据;读取 5KB 的数据,实际上会读取 8KB 的数据。我们要尽量减少读写的次数。
因为读的次数越多,效率就越低。就好比我们在工地上搬砖,一次搬 10 块砖肯定比一次搬 1 块砖的效率要高,反正我每次都搬 10 块(😁)。
对于红黑树、二叉平衡树这种细高个来说,每次搬的砖少,因为力气不够嘛,那来回跑的次数就越多。
是这个道理吧,树越高,意味着查找数据时就需要更多的磁盘 IO,因为每一层都可能需要从磁盘加载新的节点。
B 树的节点大小通常与页的大小对齐,这样每次从磁盘加载一个节点时,可以正好是一个页的大小。因为 B 树的节点可以有多个子节点,可以填充更多的信息以达到一页的大小。
B 树的一个节点通常包括三个部分:
- 键值:即表中的主键
- 指针:存储子节点的信息
- 数据:表记录中除主键外的数据
不过,正所谓“祸兮福所倚,福兮祸所伏”,正是因为 B 树的每个节点上都存了数据,就导致每个节点能存储的键值和指针变少了,因为每一页的大小是固定的,对吧?
于是 B+树就来了,B+树的非叶子节点只存储键值,不存储数据,而叶子节点存储了所有的数据,并且构成了一个有序链表。
这样做的好处是,非叶子节点上由于没有存储数据,就可以存储更多的键值对,树就变得更加矮胖了,于是就更有劲了,每次搬的砖也就更多了(😂)。
由此一来,查找数据进行的磁盘 IO 就更少了,查询的效率也就更高了。
再加上叶子节点构成了一个有序链表,范围查询时就可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。
注:在 InnoDB 存储引擎中,默认的页大小是 16KB。可以通过 show variables like 'innodb_page_size';
查看。
简版回答:
MySQL 的默认存储引擎是 InnoDB,它采用的是 B+树索引,B+树是一种自平衡的多路查找树,和红黑树、二叉平衡树不同,B+树的每个节点可以有 m 个子节点,而红黑树和二叉平衡树都只有 2 个。
和 B 树不同,B+树的非叶子节点只存储键值,不存储数据,而叶子节点存储了所有的数据,并且构成了一个有序链表。
这样做的好处是,非叶子节点上由于没有存储数据,就可以存储更多的键值对,再加上叶子节点构成了一个有序链表,范围查询时就可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。查询的效率会更高。
B+树的页是单向链表还是双向链表?如果从大值向小值检索,如何操作?
B+树的叶子节点是通过双向链表连接的,这样可以方便范围查询和反向遍历。
- 当执行范围查询时,可以从范围的开始点或结束点开始,向前或向后遍历,这使得查询更为灵活。
- 在需要对数据进行逆序处理时,双向链表非常有用。
如果需要在 B+树中从大值向小值进行检索,可以按以下步骤操作:
- 定位到最右侧节点:首先,找到包含最大值的叶子节点。这通常通过从根节点开始向右遍历树的方式实现。
- 反向遍历:一旦定位到了最右侧的叶子节点,可以利用叶节点间的双向链表向左遍历。
为什么 MongoDB 索引用 B树,而 MySQL 用 B+ 树?
推荐阅读:为什么 MongoDB 索引用 B树,而 MySQL 用 B+ 树?
B树的特点是每个节点都存储数据,相邻的叶子节点之间没有指针链接。
B+树的特点是非叶子节点只存储索引,叶子节点存储数据,并且相邻的叶子节点之间有指针链接。
那么在查找单条数据时,B 树的查询效率可能会更高,因为每个节点都存储数据,所以最好情况就是 O(1)。
但由于 B 树的节点之间没有指针链接,所以并不适合做范围查询,因为范围查询需要遍历多个节点。
而 B+ 树的叶子节点之间有指针链接,所以适合做范围查询,因为可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。
MySQL 属于关系型数据库,所以范围查询会比较多,所以采用了 B+树;但 MongoDB 属于非关系型数据库,在大多数情况下,只需要查询单条数据,所以 MongoDB 选择了 B 树。
- Java 面试指南(付费)收录的字节跳动商业化一面的原题:说说 B+树,为什么 3 层容纳 2000W 条,为什么 2000w 条数据查的快
- Java 面试指南(付费)收录的国企面试原题:说说 MySQL 的底层数据结构,B 树和 B+树的区别
- Java 面试指南(付费)收录的腾讯面经同学 22 暑期实习一面面试原题:MySQL 为什么选用 B+树
- Java 面试指南(付费)收录的小米面经同学 E 第二个部门 Java 后端技术一面面试原题:说一说 mysql 索引的底层机制
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:MySQL 索引结构,建立索引的策略
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:MySQL 索引结构,为什么用 B+树?
- Java 面试指南(付费)收录的小公司面经同学 5 Java 后端面试原题:数据库索引讲一下,然后为什么会加快查询速度,我讲到了 B+树,然后问了 B 数与 B+树区别
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:B+树的页是单向链表还是双向链表?如果从大值向小值检索,如何操作?
- Java 面试指南(付费)收录的得物面经同学 1 面试原题:项目索引,MySQL索引,mongoDB为什么用的B树,二者比较
- Java 面试指南(付费)收录的oppo 面经同学 8 后端开发秋招一面面试原题:Mysql索引的数据结构,为什么选择这样的数据结构
- Java 面试指南(付费)收录的京东面经同学 8 面试原题:索引
34.那一棵 B+树能存储多少条数据呢?
推荐阅读:清幽之地:InnoDB 一棵 B+树可以存放多少行数据?
假如我们的主键 ID 是 bigint 类型,长度为 8 个字节。指针大小在 InnoDB 源码中设置为 6 字节,这样一共 14 字节。所以非叶子节点(一页)可以存储 16384/14=1170 个这样的单元(键值+指针)。
一个指针指向一个存放记录的页,一页可以放 16 条数据,树深度为 2 的时候,可以存放 1170*16=18720 条数据。
同理,树深度为 3 的时候,可以存储的数据为 1170*1170*16=21902400条记录。
理论上,在 InnoDB 存储引擎中,B+树的高度一般为 2-4 层,就可以满足千万级数据的存储。查找数据的时候,一次页的查找代表一次 IO,当我们通过主键索引查询的时候,最多只需要 2-4 次 IO 就可以了。
innodb 使用数据页存储数据?默认数据页大小 16K,我现在有一张表,有 2kw 数据,我这个 b+树的高度有几层?
推荐阅读:Innodb 引擎中 B+树一般有几层?能容纳多少数据量?
在 MySQL 中,InnoDB 存储引擎的最小存储单元是页,默认大小是 16k,可通过参数设置。页可以用来存储 B+树叶子节点上的数据,也可以存放非叶子节点上的键值对。
在查找数据时,一次页的查找代表一次 IO,一般 B+树的高度为 2-4 层,所以通过主键索引查询时,最多只需要 2-4 次 IO 就可以了。
已知非叶子节点可以存储 1170 个键值对。
主键 ID 是 bigint 类型,长度为 8 个字节。指针大小在 InnoDB 源码中设置为 6 字节,这样一共是 14 字节。所以非叶子节点(一页)可以存储 16384/14=1170 个这样的单元(键值+指针)。
假设一行数据的大小为 1KB,那么一页的叶子节点就可以存储 16 条数据。对于 3 层的 B+树,第一层叶子节点数*第二层叶子节点数*一页能够存储的数据量 = 1170*1170*16 = 21902400 条数据。
如果有 2KW 条数据,那么这颗 B+树的高度为 3 层。
- Java 面试指南(付费)收录的字节跳动商业化一面的原题:说说 B+树,为什么 3 层容纳 2000W 条,为什么 2000w 条数据查的快
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:innodb 使用数据页存储数据?默认数据页大小 16K,我现在有一张表,有 2kw 数据,我这个 b+树的高度有几层?
- Java 面试指南(付费)收录的美团面经同学 18 成都到家面试原题:一张表最多存多少数据(我答得2kw,根据b+树的三层高度计算)
- Java 面试指南(付费)收录的得物面经同学 1 面试原题:MySQL B+树的度数越大越好吗,一般设多少
35.为什么要用 B+ 树,而不用普通二叉树?
普通二叉树存在退化的情况,如果它退化成链表,就相当于全表扫描。
为什么不用平衡二叉树呢?
读取数据的时候,是从磁盘先读到内存。平衡二叉树的每个节点只存储一个键值和数据,而 B+ 树可以存储更多的节点数据,树的高度也会降低,因此读取磁盘的次数就会下降,查询效率就快。
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:MySQL 索引为什么使用 B+树而不是用别的数据结构?
36.为什么用 B+ 树而不用 B 树呢?
B+ 树相比较 B 树,有这些优势:
①、更高的查询效率
B+树的所有值(数据记录或指向数据记录的指针)都存在于叶子节点,并且叶子节点之间通过指针连接,形成一个有序链表。
这种结构使得 B+树非常适合进行范围查询——一旦到达了范围的开始位置,接下来的元素可以通过遍历叶子节点的链表顺序访问,而不需要回到树的上层。如 SQL 中的 ORDER BY 和 BETWEEN 查询。
而 B 树的数据分布在整个树中,进行范围查询时可能需要遍历树的多个层级。
②、更高的空间利用率
在 B+树中,非叶子节点不存储数据,只存储键值,这意味着非叶子节点可以拥有更多的键,从而有更多的分叉。
这导致树的高度更低,进一步降低了查询时磁盘 I/O 的次数,因为每一次从一个节点到另一个节点的跳转都可能涉及到磁盘 I/O 操作。
③、查询效率更稳定
B+树中所有叶子节点深度相同,所有数据查询路径长度相等,保证了每次搜索的性能稳定性。而在 B 树中,数据可以存储在内部节点,不同的查询可能需要不同深度的搜索。
- Java 面试指南(付费)收录的支付宝面经同学 2 春招技术一面面试原题:聚簇索引和非聚簇索引的区别?B+树叶子节点除了存数据还有什么?
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:b 树和 b+树有什么区别
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:MySQL 索引为什么使用 B+树而不是用别的数据结构?
- Java 面试指南(付费)收录的字节跳动面经同学 8 Java 后端实习一面面试原题:mysql b+树和b树的区别
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:B+树有哪些优点
37.Hash 索引和 B+ 树索引区别是什么? 🚀
- B+ 树索引可以进行范围查询,Hash 索引不能。
- B+ 树索引支持联合索引的最左侧原则,Hash 索引不支持。
- B+ 树索引支持 order by 排序,Hash 索引不支持。
- Hash 索引在等值查询上比 B+ 树索引效率更高。
- B+ 树使用 like 进行模糊查询的时候,
LIKE 'abc%'
的话可以起到索引优化的作用,Hash 索引无法进行模糊查询。
MySQL 模糊查询怎么查,什么情况下模糊查询不走索引?
MySQL 中进行模糊查询主要使用 LIKE 语句,结合通配符 %(代表任意多个字符)和 _(代表单个字符)来实现。
sql
SELECT * FROM table WHERE column LIKE '%xxx%';
这个查询会返回所有 column 列中包含 xxx 的记录。
但是,如果模糊查询的通配符 % 出现在搜索字符串的开始位置,如 LIKE '%xxx'
,MySQL 将无法使用索引,因为数据库必须扫描全表以匹配任意位置的字符串。
38.聚簇索引与非聚簇索引的区别? 🚀
在 MySQL 的 InnoDB 存储引擎中,主键就是聚簇索引。聚簇索引不是一种新的索引,而是一种数据存储方式。
在聚簇索引中,表中的行是按照键值(索引)的顺序存储的。这意味着表中的实际数据行和键值之间存在物理排序的关系。因此,每个表只能有一个聚簇索引。
在非聚簇索引中,索引和数据是分开存储的,索引中的键值指向数据的实际存储位置。因此,非聚簇索引也被称为二级索引或辅助索引或非主键索引。表可以有多个非聚簇索引。
这意味着,当使用非聚簇索引检索数据时,数据库首先在索引中查找,然后通过索引中的指针去访问表中实际的数据行,这个过程称为“回表”(Bookmark Lookup)。
举例来说:
- InnoDB 采用的是聚簇索引,如果没有显式定义主键,InnoDB 会选择一个唯一的非空列作为隐式的聚簇索引;如果这样的列也不存在,InnoDB 会自动生成一个隐藏的行 ID 作为聚簇索引。这意味着数据与主键是紧密绑定的,行数据直接存储在索引的叶子节点上。
- MyISAM 采用的是非聚簇索引,表数据存储在一个地方,而索引存储在另一个地方,索引指向数据行的物理位置。
39.回表了解吗?
回表是指在数据库查询过程中,通过非聚簇索引(secondary index)查找到记录的主键值后,再根据这个主键值到聚簇索引(clustered index)中查找完整记录的过程。
回表操作通常发生在使用非聚簇索引进行查询,但查询的字段不全在该索引中,必须通过主键进行再次查询以获取完整数据。
换句话说,数据库需要先查找索引,然后再根据索引回到数据表中去查找实际的数据。
因此,使用非聚簇索引查找数据通常比使用聚簇索引要慢,因为需要进行两次磁盘访问。当然,如果索引所在的数据页已经被加载到内存中,那么非聚簇索引的查找速度也可以非常快。
例如:select * from user where name = '张三';
,会先从辅助索引中找到 name='张三' 的主键 ID,然后再根据主键 ID 从主键索引中找到对应的数据行。
假设现在有一张用户表 users:
sql
CREATE TABLE users (
id INT PRIMARY KEY,
name VARCHAR(50),
age INT,
email VARCHAR(50),
INDEX (name)
);
执行查询:
sql
SELECT * FROM users WHERE name = '张三';
查询过程如下:
- MySQL 使用 name 列上的非聚簇索引查找到所有
name = '张三'
的记录,得到对应的主键 id。 - 使用主键 id 到聚簇索引中查找完整记录。
回表记录越多好吗?
回表记录越多并不是一件好事。事实上,回表的代价是很高的,尤其在记录较多时,回表操作会显著影响查询性能。
因为每次回表操作都需要进行一次磁盘 I/O 读取操作。如果回表记录很多,会导致大量的磁盘 I/O。
索引覆盖(Covering Index)可以减少回表操作,将查询的字段都放在索引中,这样不需要回表就可以获取到查询结果了。
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:使用非聚簇索引如何查找数据?
- Java 面试指南(付费)收录的字节跳动面经同学 1 技术二面面试原题:回表记录越多好吗?(回表的代价)
40.覆盖索引了解吗?
覆盖索引(Covering Index)是数据库索引优化中的一个重要概念,它指的是一种索引能够“覆盖”查询中所涉及的所有列,换句话说,查询所需的数据全部都可以从索引中直接获取,而无需访问数据表的行数据(也就是无需回表)。
通常情况下,索引中只包含表的某些字段,数据库在通过索引查找到满足条件的记录后,还需要回到表中获取其它字段的数据,这个过程叫做“回表”。
假设有一张用户表 users,包含以下字段:id、name、email、age。执行下面的查询:
sql
SELECT age, email FROM users WHERE name = "张三";
如果在 name 列上创建了索引,但没有在 age 和 email 列上创建索引,那么数据库引擎会:
- 使用 name 列的索引查找到满足条件的记录的 id。
- 根据 id 回表查询 age 和 email 字段的数据。
如果创建了一个覆盖索引 idx_users_name_email_age 包含 name、email、age 列:
sql
CREATE INDEX idx_users_name_email_age ON users (age, name, email);
那么执行:
sql
SELECT age, email FROM users WHERE name = "张三";
查询时可以直接从索引中获取 age 和 email 的值,而不需要回表。这是因为索引已经覆盖了查询所需的所有字段。
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:了解覆盖索引吗
41.什么是最左前缀原则?
在使用联合索引时,应当遵守最左前缀原则,或者叫最左匹配原则(最左前缀匹配原则)。
它指的是在使用联合索引时,查询条件从索引的最左列开始并且不跳过中间的列。
如果一个复合索引包含(col1, col2, col3)
,那么它可以支持 col1
、col1,col2
和 col1, col2, col3
的查询优化,但不支持只有 col2 或 col3 的查询。
也就说,在进行查询时,如果没有遵循最左前缀,那么联合索引可能不会被利用,导致查询效率降低。
为什么不从最左开始查,就无法匹配呢?
比如有一个 user 表,我们给 name 和 age 建立了一个联合索引 (name, age)
。
sql
ALTER TABLE user add INDEX comidx_name_phone (name,age);
联合索引在 B+ 树中是复合的数据结构,按照从左到右的顺序依次建立搜索树 (name 在左边,age 在右边)。
注意,name 是有序的,age 是无序的。当 name 相等的时候,age 才有序。
当我们使用 where name= '张三' and age = '20'
去查询的时候, B+ 树会优先比较 name 来确定下一步应该搜索的方向,往左还是往右。
如果 name 相同的时候再比较 age。
但如果查询条件没有 name,就不知道应该怎么查了,因为 name 是 B+树中的前置条件,没有 name,索引就派不上用场了。
- Java 面试指南(付费)收录的比亚迪面经同学 3 Java 技术一面面试原题:说一下数据库索引,最左匹配原则和索引的结构
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:说说最左前缀原则
- Java 面试指南(付费)收录的美团面经同学 3 Java 后端技术一面面试原题:最左匹配原则 索引失效
- Java 面试指南(付费)收录的招银网络科技面经同学 9 Java 后端技术一面面试原题:Mysql联合索引的设计原则
42.什么是索引下推优化?
索引条件下推优化(Index Condition Pushdown (ICP) )
是 MySQL5.6 添加的,用于优化数据查询。
- 不使用索引条件下推优化时存储引擎通过索引检索到数据,然后返回给 MySQL Server,MySQL Server 进行过滤条件的判断。
- 当使用索引条件下推优化时,如果存在某些被索引的列的判断条件时,MySQL Server 将这一部分判断条件下推给存储引擎,然后由存储引擎通过判断索引是否符合 MySQL Server 传递的条件,只有当索引符合条件时才会将数据检索出来返回给 MySQL 服务器。
例如一张表,建了一个联合索引(name, age),查询语句:select * from t_user where name like '张%' and age=10;
,由于name
使用了范围查询,根据最左匹配原则:
不使用 ICP,引擎层查找到name like '张%'
的数据,再由 Server 层去过滤age=10
这个条件,这样一来,就回表了两次,浪费了联合索引的另外一个字段age
。
但是,使用了索引下推优化,把 where 的条件放到了引擎层执行,直接根据name like '张%' and age=10
的条件进行过滤,减少了回表的次数。
索引条件下推优化可以减少存储引擎查询基础表的次数,也可以减少 MySQL 服务器从存储引擎接收数据的次数。
79.MySQL如何查看查询是否用到了索引?(补充)
2024 年 03 月 15 日增补。
可以通过 EXPLAIN
关键字来查看是否使用了索引。
sql
EXPLAIN SELECT * FROM table WHERE column = 'value';
其结果中的 key
值显示了查询是否使用索引,如果使用了索引,会显示索引的名称。比如下面这个截图就表明该查询语句使用了主键索引。
(A,B,C) 联合索引 select * from tbn where a=? and b in (?,?) and c>?
会走索引吗?
2024 年 03 月 15 日增补。
这个查询会使用到联合索引 (A,B,C)
,因为条件是按照索引列 A
、B
、C
的顺序来的,这是理想的使用场景。
对于
A=?
:这个条件是一个精确匹配,MySQL 会使用索引来定位到满足条件A=?
的记录。对于
B IN (?, ?)
:这个条件指定了B
列可以取两个可能的值。MySQL 会利用索引来查找所有匹配A=?
且B
列为这两个值中任意一个的记录。对于
C>?
:这个条件是一个范围查询。在已经根据A
和B
筛选的基础上,MySQL 会继续利用索引来查找C
列值大于指定值的记录。
来验证一下。
第一步,建表。
sql
CREATE TABLE tbn (A INT, B INT, C INT, D TEXT);
第二步,创建索引。
sql
CREATE INDEX idx_abc ON tbn (A, B, C);
第三步,插入数据。
sql
INSERT INTO tbn VALUES (1, 2, 3, 'First');
INSERT INTO tbn VALUES (1, 2, 4, 'Second');
INSERT INTO tbn VALUES (1, 3, 5, 'Third');
INSERT INTO tbn VALUES (2, 2, 3, 'Fourth');
INSERT INTO tbn VALUES (2, 3, 4, 'Fifth');
第四步,执行查询。
sql
EXPLAIN SELECT * FROM tbn WHERE A=1 AND B IN (2, 3) AND C>3\G
从 EXPLAIN
输出结果来看,我们可以得到 MySQL 是如何执行查询的一些关键信息:
- id: 查询标识符,这里是
1
。 - select_type: 查询的类型,这里是
SIMPLE
,表示这是一个简单的查询,没有使用子查询或复杂的联合查询。 - table: 正在查询的表名,这里是
tbn
。 - type: 查询类型,这里是
range
,表示 MySQL 使用了范围查找。这是因为查询条件包含了>
操作符,使得 MySQL 需要在索引中查找满足范围条件的记录。 - possible_keys: 可能被用来执行查询的索引,这里是
idx_abc
,表示 MySQL 认为idx_abc
索引可能会用于优化查询。 - key: 实际用来执行查询的索引,也是
idx_abc
,这意味着 MySQL 实际上使用了idx_abc
联合索引来优化查询。 - key_len: 使用索引的长度,这里是
15
字节,这提供了关于索引使用情况的一些信息,比如哪些列被用在了索引中。 - ref: 显示哪些列或常量被用作索引查找的参考。
- rows: MySQL 估计为了找到结果需要检查的行数,这里是
2
。 - filtered: 表示根据表的条件过滤后,剩余多少百分比的结果,这里是
100.00
%,意味着所有扫描的行都会被返回。 - Extra: 提供了关于查询执行的额外信息。
Using index condition
表示 MySQL 使用了索引条件推送(Index Condition Pushdown,ICP),这是 MySQL 的一个优化方式,它允许在索引层面过滤数据,减少访问表数据的需要。
联合索引 abc,a=1,c=1/b=1,c=1/a=1,c=1,b=1 走不走索引?
2024 年 03 月 19 日增补
我们通过实际的 SQL 来验证一下。
示例 1(a=1,c=1):
sql
EXPLAIN SELECT * FROM tbn WHERE A=1 AND C=1\G
key 是 idx_abc,表明 a=1,c=1 会使用联合索引。但因为缺少了 B 字段的条件,所以 MySQL 可能无法利用索引来直接定位到精确的行,而是使用索引来缩小搜索范围。
最终,MySQL 需要检查更多的行(rows: 3)来找到满足所有条件的结果集,但总体来说,使用索引明显比全表扫描要高效得多。
示例 2(b=1,c=1):
sql
EXPLAIN SELECT * FROM tbn WHERE B=1 AND C=1\G
key 是 NULL,表明 b=1,c=1 不会使用联合索引。这是因为查询条件中涉及的字段 B 和 C 没有遵循之前定义的联合索引 idx_abc(A、B、C 顺序)的最左前缀原则。
在 idx_abc 索引中,A 是最左边的列,但是查询没有包含 A,因此 MySQL 无法利用这个索引。
示例 3(a=1,c=1,b=1):
sql
EXPLAIN SELECT * FROM tbn WHERE A=1 AND C=1 AND B=1\G
key 是 idx_abc,表明 a=1,c=1,b=1 会使用联合索引。
并且 rows=1,因为查询条件包含了联合索引 idx_abc 中所有列的等值条件,并且条件的顺序与索引列的顺序相匹配,使得查询能够准确、快速地定位到目标数据。
联合索引的一个场景题:(a,b,c)联合索引,(b,c)是否会走索引吗?
2024 年 04 月 06 日增补
根据最左前缀原则,(b,c) 查询不会走索引。
因为联合索引 (a,b,c) 中,a 是最左边的列,联合索引在创建索引树的时候需要先有 a,然后才会有 b 和 c。而查询条件中没有包含 a,所以 MySQL 无法利用这个索引。
sql
EXPLAIN SELECT * FROM tbn WHERE B=1 AND C=1\G
建立联合索引(a,b,c),where c = 5 是否会用到索引?为什么?
2024 年 04 月 08 日增补
在这个查询中,只有索引的第三列 c 被用作查询条件,而前两列 a 和 b 没有被使用。这不符合最左前缀原则,因此 MySQL 不会使用联合索引 (a,b,c)。
sql
EXPLAIN SELECT * FROM tbn WHERE C=5\G
锁
43.MySQL 中有哪几种锁,列举一下? 🚀
加锁机制:乐观锁、悲观锁
锁粒度:表锁、页锁、行锁
兼容性:共享锁、排他锁
锁模式:记录锁、间隙锁、next-key锁、意向锁、插入意向锁
按锁粒度如何划分?
按锁粒度划分的话,MySQL 的锁有:
- 表锁:开销小,加锁快;锁定力度大,发生锁冲突概率高,并发度最低;不会出现死锁。
- 行锁:开销大,加锁慢;会出现死锁;锁定粒度小,发生锁冲突的概率低,并发度高。
- 页锁:开销和加锁速度介于表锁和行锁之间;会出现死锁;锁定粒度介于表锁和行锁之间,并发度一般。
按兼容性如何划分?
按兼容性划分的话,MySQL 的锁有:
- 共享锁(S Lock),也叫读锁(read lock),相互不阻塞。
- 排他锁(X Lock),也叫写锁(write lock),排它锁是阻塞的,在一定时间内,只有一个请求能执行写入,并阻止其它锁读取正在写入的数据。
按加锁机制如何划分?
①、乐观锁
乐观锁基于这样的假设:冲突在系统中出现的频率较低,因此在数据库事务执行过程中,不会频繁地去锁定资源。相反,它在提交更新的时候才检查是否有其他事务已经修改了数据。
可以通过在数据表中使用版本号(Version)或时间戳(Timestamp)来实现,每次读取记录时,同时获取版本号或时间戳,更新时检查版本号或时间戳是否发生变化。
如果没有变化,则执行更新并增加版本号或更新时间戳;如果检测到冲突(即版本号或时间戳与之前读取的不同),则拒绝更新。
②、悲观锁
悲观锁假设冲突是常见的,因此在数据处理过程中,它会主动锁定数据,防止其他事务进行修改。
可以直接使用数据库的锁机制,如行锁或表锁,来锁定被访问的数据。常见的实现是 SELECT FOR UPDATE
语句,它在读取数据时就加上了锁,直到当前事务提交或回滚后才释放。
如何解决库存超卖问题?
按照乐观锁的方式:
sql
UPDATE inventory SET count = count - 1, version = version + 1 WHERE product_id = 1 AND version = current_version;
按照悲观锁的方式:
在事务开始时直接锁定库存记录,直到事务结束。当你使用SELECT FOR UPDATE语句时,InnoDB
存储引擎会对选中的记录加上排他锁。其他session不可以再加共享锁或者排他锁,但在不使用锁的情况下可以查询数据,普通的查询语句没有任何锁机制。
sql
START TRANSACTION;
SELECT * FROM inventory WHERE product_id = 1 FOR UPDATE;
UPDATE inventory SET count = count - 1 WHERE product_id = 1;
COMMIT;
80.全局锁和表级锁了解吗? 🚀
全局锁就是对整个数据库实例进行加锁,在 MySQL 中,可以使用 FLUSH TABLES WITH READ LOCK
命令来获取全局读锁。
全局锁的作用是保证在备份数据库时,数据不会发生变化【数据更新语句(增删改)、数据定义语句(建表、修改表结构等)和更新事务的提交语句】。当我们需要备份数据库时,可以先获取全局读锁,然后再执行备份操作。
表锁(Table Lock)就是锁住整个表。在 MySQL 中,可以使用 LOCK TABLES
命令来锁定表。
表锁可以分为读锁(共享锁)和写锁(排他锁)。
sql
LOCK TABLES your_table READ;
-- 执行读操作
UNLOCK TABLES;
读锁允许多个事务同时读取被锁定的表,但不允许任何事务进行写操作。
sql
LOCK TABLES your_table WRITE;
-- 执行写操作
UNLOCK TABLES;
写锁允许一个事务对表进行读写操作,其他事务不能对该表进行任何操作(读或写)。
在进行大规模的数据导入、导出或删除操作时,为了防止其他事务对数据进行并发操作,可以使用表锁。
或者在进行表结构变更(如添加列、修改列类型)时,为了确保变更期间没有其他事务访问或修改该表,可以使用表锁。
44.说说 MySQL 的行锁? 🚀
行级锁(Row Lock)是数据库锁机制中最细粒度的锁,主要用于对单行数据进行加锁,以确保数据的一致性和完整性。
在 MySQL 中,InnoDB 存储引擎支持行级锁。通过 SELECT ... FOR UPDATE
可以加排他锁,通过 LOCK IN SHARE MODE
可以加共享锁。
比如说:
sql
START TRANSACTION;
-- 加排他锁,锁定某一行
SELECT * FROM your_table WHERE id = 1 FOR UPDATE;
-- 对该行进行操作
UPDATE your_table SET column1 = 'new_value' WHERE id = 1;
COMMIT;
sql
START TRANSACTION;
-- 加共享锁,锁定某一行
SELECT * FROM your_table WHERE id = 1 LOCK IN SHARE MODE;
-- 只能读取该行,不能修改
COMMIT;
在高并发环境中,行级锁能够提高系统的并发性能,因为锁定的粒度较小,只会锁住特定的行,不会影响其他行的操作。
select for update 加锁有什么需要注意的?
如果查询条件使用了索引(特别是主键索引或唯一索引),SELECT FOR UPDATE 会锁定特定的行,即行级锁,这样锁的粒度较小,不会影响未涉及的行或其他并发操作。
但如果查询条件未使用索引,SELECT FOR UPDATE 可能锁定整个表或大量的行,因为查询需要执行全表扫描。
假设有一张名为 orders 的表,包含以下数据:
sql
CREATE TABLE orders (
id INT PRIMARY KEY,
order_no VARCHAR(255),
amount DECIMAL(10,2),
status VARCHAR(50),
INDEX (order_no) -- order_no 上有索引
);
表中的数据是这样的:
id | order_no | amount | status |
---|---|---|---|
1 | 10001 | 50.00 | pending |
2 | 10002 | 75.00 | pending |
3 | 10003 | 100.00 | pending |
4 | 10004 | 150.00 | completed |
5 | 10005 | 200.00 | pending |
如果我们通过主键索引执行 SELECT FOR UPDATE,只会锁定特定的行:
sql
START TRANSACTION;
SELECT * FROM orders WHERE id = 1 FOR UPDATE;
-- 对 id=1 的行进行操作
COMMIT;
由于 id 是主键,所以只会锁定 id=1
这行,不会影响其他行的操作。其他事务依然可以对 id = 2, 3, 4, 5 等行执行更新操作,因为它们没有被锁定。
如果使用 order_no 索引执行 SELECT FOR UPDATE,也只会锁定特定的行:
sql
START TRANSACTION;
SELECT * FROM orders WHERE order_no = '10001' FOR UPDATE;
-- 对 order_no=10001 的行进行操作
COMMIT;
因为 order_no 上有索引,所以只会锁定 order_no=10001
这行,不会影响其他行的操作。
但如果查询 status='pending'
,而 status 上没有索引:
sql
START TRANSACTION;
SELECT * FROM orders WHERE status = 'pending' FOR UPDATE;
-- 对 status=pending 的行进行操作
COMMIT;
查询需要执行全表扫描。在这种情况下,SELECT FOR UPDATE 可能会锁定表中所有符合条件的记录,甚至是整个表,因为 MySQL 需要检查每一行的 status。
这会影响表中的大部分记录,其他事务将无法修改这些记录,直到当前事务结束。
说说 InnoDB 的行锁实现?
我们拿这么一个用户表来表示行级锁,其中插入了 4 行数据,主键值分别是 1,6,8,12,现在简化它的聚簇索引结构,只保留数据记录。
InnoDB 的行锁的主要实现如下:
①、Record Lock 记录锁
记录锁就是直接锁定某行记录。当我们使用唯一性的索引(包括唯一索引和聚簇索引)进行等值查询且精准匹配到一条记录时,此时就会直接将这条记录锁定。例如select * from t where id =6 for update;
就会将id=6
的记录锁定。
②、Gap Lock 间隙锁
间隙锁(Gap Locks) 的间隙指的是两个记录之间逻辑上尚未填入数据的部分,是一个左开右开空间。
间隙锁就是锁定某些间隙区间的。当我们使用用等值查询或者范围查询,并且没有命中任何一个record
,此时就会将对应的间隙区间锁定。例如select * from t where id =3 for update;
或者select * from t where id > 1 and id < 6 for update;
就会将(1,6)区间锁定。
③、Next-key Lock 临键锁
临键指的是间隙加上它右边的记录组成的左开右闭区间。比如上述的(1,6]、(6,8]
等。
临键锁就是记录锁(Record Locks)和间隙锁(Gap Locks)的结合,即除了锁住记录本身,还要再锁住索引之间的间隙。当我们使用范围查询,并且命中了部分record
记录,此时锁住的就是临键区间。
注意,临键锁锁住的区间会包含最后一个 record 的右边的临键区间。
例如 select * from t where id > 5 and id <= 7 for update;
会锁住(4,7]、(7,+∞)
。
MySQL 默认行锁类型就是临键锁(Next-Key Locks)
。当使用唯一性索引,等值查询匹配到一条记录的时候,临键锁(Next-Key Locks)会退化成记录锁;没有匹配到任何记录的时候,退化成间隙锁。
间隙锁(Gap Locks)
和临键锁(Next-Key Locks)
都是用来解决幻读问题的,在已提交读(READ COMMITTED)
隔离级别下,间隙锁(Gap Locks)
和临键锁(Next-Key Locks)
都会失效!
上面是行锁的三种实现算法,除此之外,在行上还存在插入意向锁。
④、Insert Intention Lock 插入意向锁
一个事务在插入一条记录时需要判断一下插入位置是不是被别的事务加了意向锁 ,如果有的话,插入操作需要等待,直到拥有 gap 锁 的那个事务提交。但是事务在等待的时候也需要在内存中生成一个 锁结构 ,表明有事务想在某个 间隙 中插入新记录,但是现在在等待。这种类型的锁命名为 Insert Intention Locks ,也就是插入意向锁 。
假如我们有个 T1 事务,给(1,6)区间加上了意向锁,现在有个 T2 事务,要插入一个数据,id 为 4,它会获取一个(1,6)区间的插入意向锁,又有有个 T3 事务,想要插入一个数据,id 为 3,它也会获取一个(1,6)区间的插入意向锁,但是,这两个插入意向锁锁不会互斥。
45.意向锁是什么知道吗? 🚀
意向锁是一个表级锁,不要和插入意向锁搞混。
意向锁的出现是为了支持 InnoDB 的多粒度锁,它解决的是表锁和行锁共存的问题。
当我们需要给一个表加表锁的时候,我们需要根据去判断表中有没有数据行被锁定,以确定是否能加成功。
假如没有意向锁,那么我们就得遍历表中所有数据行来判断有没有行锁;
有了意向锁这个表级锁之后,则我们直接判断一次就知道表中是否有数据行被锁定了。
有了意向锁之后,要执行的事务 A 在申请行锁(写锁)之前,数据库会自动先给事务 A 申请表的意向排他锁。当事务 B 去申请表的互斥锁时就会失败,因为表上有意向排他锁之后事务 B 申请表的互斥锁时会被阻塞。
46.MySQL 的乐观锁和悲观锁了解吗? 🚀
- 悲观锁(Pessimistic Concurrency Control):
悲观锁认为被它保护的数据是极其不安全的,每时每刻都有可能被改动,一个事务拿到悲观锁后,其他任何事务都不能对该数据进行修改,只能等待锁被释放才可以执行。
数据库中的行锁,表锁,读锁,写锁均为悲观锁。
- 乐观锁(Optimistic Concurrency Control)
乐观锁认为数据的变动不会太频繁。
乐观锁通常是通过在表中增加一个版本(version)或时间戳(timestamp)来实现,其中,版本最为常用。
事务在从数据库中取数据时,会将该数据的版本也取出来(v1),当事务对数据变动完毕想要将其更新到表中时,会将之前取出的版本 v1 与数据中最新的版本 v2 相对比,如果 v1=v2,那么说明在数据变动期间,没有其他事务对数据进行修改,此时,就允许事务对表中的数据进行修改,并且修改时 version 会加 1,以此来表明数据已被变动。
如果,v1 不等于 v2,那么说明数据变动期间,数据被其他事务改动了,此时不允许数据更新到表中,一般的处理办法是通知用户让其重新操作。不同于悲观锁,乐观锁通常是由开发者实现的。
47.MySQL 遇到过死锁问题吗,你是如何解决的? 🚀
排查死锁的一般步骤是这样的:
(1)查看死锁日志 show engine innodb status;
(2)找出死锁 sql
(3)分析 sql 加锁情况
(4)模拟死锁案发
(5)分析死锁日志
(6)分析死锁结果
当然,这只是一个简单的流程说明,实际上生产中的死锁千奇百怪,排查和解决起来没那么简单。
事务
48.MySQL 事务的四大特性说一下? 🚀
事务是一个或多个 SQL 语句组成的一个执行单元,这些 SQL 语句要么全部执行成功,要么全部不执行,不会出现部分执行的情况。事务是数据库管理系统执行过程中的一个逻辑单位,由一个有限的数据库操作序列构成。
事务的主要作用是保证数据库操作的一致性,即事务内的操作,要么全部成功,要么全部失败回滚,不会出现中间状态。这对于维护数据库的完整性和一致性非常重要。
事务具有四个基本特性,也就是通常所说的 ACID 特性,即原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)和持久性(Durability)。
什么是原子性?
原子性子性意味着事务中的所有操作要么全部完成,要么全部不完成,它是不可分割的单位。如果事务中的任何一个操作失败了,整个事务都会回滚到事务开始之前的状态,如同这些操作从未被执行过一样。
什么是一致性?
一致性确保事务从一个一致的状态转换到另一个一致的状态。
比如在银行转账事务中,无论发生什么,转账前后两个账户的总金额应保持不变。假如 A 账户(100 块)给 B 账户(10 块)转了 10 块钱,不管成功与否,A 和 B 的总金额都是 110 块。
什么是隔离性?
隔离性意味着并发执行的事务是彼此隔离的,一个事务的执行不会被其他事务干扰。就是事务之间是井水不犯河水的。
隔离性主要是为了解决事务并发执行时可能出现的问题,如脏读、不可重复读、幻读等。
数据库系统通过事务隔离级别(如读未提交、读已提交、可重复读、串行化)来实现事务的隔离性。
什么是持久性?
持久性确保事务一旦提交,它对数据库所做的更改就是永久性的,即使发生系统崩溃,数据库也能恢复到最近一次提交的状态。通常,持久性是通过数据库的恢复和日志机制来实现的,确保提交的事务更改不会丢失。
简短一点的回答可以是:
- 原子性:事务的所有操作要么全部提交成功,要么全部失败回滚,对于一个事务中的操作不能只执行其中一部分。
- 一致性:事务应确保数据库的状态从一个一致状态转变为另一个一致状态。一致性与业务规则有关,比如银行转账,不论事务成功还是失败,转账双方的总金额应该是不变的。
- 隔离性:多个并发事务之间需要相互隔离,即一个事务的执行不能被其他事务干扰。
- 持久性:一旦事务提交,则其所做的修改将永久保存到数据库中。即使发生系统崩溃,修改的数据也不会丢失。
49.那 ACID 靠什么保证的呢? 🚀
MySQL 通过事务、undo log、redo log 来确保 ACID。
如何保证原子性?
MySQL 通过 undo log 来确保原子性(Atomicity)。
当事务开始时,MySQL 会在undo log
中记录事务开始前的旧值。如果事务执行失败,MySQL 会使用undo log
中的旧值来回滚事务开始前的状态;如果事务执行成功,MySQL 会在某个时间节点将undo log
删除。
如何保证一致性?
如果其他三个特性都得到了保证,那么一致性(Consistency)就自然而然得到保证了。
如何保证隔离性?
MySQL 定义了多种隔离级别,通过 MVCC
来确保每个事务都有专属自己的数据版本,从而实现隔离性(Isolation)。
在 MVCC 中,每行记录都有一个版本号,当事务尝试读取记录时,会根据事务的隔离级别和记录的版本号来决定是否可以读取。
如何保证持久性?
redo log 是一种物理日志,当执行写操作时,MySQL 会先将更改记录到 redo log 中。当 redo log 填满时,MySQL 再将这些更改写入数据文件中。
如果 MySQL 在写入数据文件时发生崩溃,可以通过 redo log 来恢复数据文件,从而确保持久性(Durability)。
50.事务的隔离级别有哪些?MySQL 的默认隔离级别是什么? 🚀
事务的隔离级别定了一个事务可能受其他事务影响的程度,MySQL 支持的四种隔离级别分别是:读未提交(Read Uncommitted)、读已提交(Read Committed)、可重复读(Repeatable Read)和串行化(Serializable)。
什么是读未提交?
读未提交是最低的隔离级别,在这个级别,当前事务可以读取未被其他事务提交的数据,以至于会出现“脏读”、“不可重复读”和“幻读”的问题。
什么是读已提交?
当前事务只能读取已经被其他事务提交的数据,可以避免“脏读”现象。但不可重复读和幻读问题仍然存在。
什么是可重复读?
确保在同一事务中多次读取相同记录的结果是一致的,即使其他事务对这条记录进行了修改,也不会影响到当前事务。
可重复读是 MySQL 默认的隔离级别,避免了“脏读”和“不可重复读”,但可能会出现幻读。
什么是串行化?
最高的隔离级别,通过强制事务串行执行来避免并发问题,可以解决“脏读”、“不可重复读”和“幻读”问题。
但会导致大量的超时和锁竞争问题。
A 事务未提交,B 事务上查询到的是旧值还是新值?
在 MySQL 的默认隔离级别(可重复读)下,如果事务 A 修改了数据但未提交,事务 B 将看到修改之前的数据。
这是因为在可重复读隔离级别下,MySQL 将通过多版本并发控制(MVCC)机制来保证一个事务不会看到其他事务未提交的数据,从而确保读一致性。
51.什么是脏读、不可重复读、幻读呢? 🚀
脏读指的是一个事务能够读取另一个事务尚未提交的数据。如果读到的数据在之后被回滚了,那么第一个事务读取到的就是无效的数据。
sql
-- 事务 A
START TRANSACTION;
UPDATE employees SET salary = 5000 WHERE id = 1;
-- 事务 B
START TRANSACTION;
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 5000 (脏读)
ROLLBACK;
不可重复读指的是在同一事务中执行相同的查询时,返回的结果集不同。这是由于在事务过程中,另一个事务修改了数据并提交。
比如说事务 A 在第一次读取某个值后,事务 B 修改了这个值并提交,事务 A 再次读取时,发现值已经改变。
sql
-- 事务 A
START TRANSACTION;
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 3000
-- 事务 B
START TRANSACTION;
UPDATE employees SET salary = 5000 WHERE id = 1;
COMMIT;
-- 事务 A 再次读取
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 5000 (不可重复读)
COMMIT;
幻读指的是在同一事务中执行相同的查询时,返回的结果集中出现了之前没有的数据行。这是因为在事务过程中,另一个事务插入了新的数据并提交。
比如说事务 A 在第一次查询某个条件范围的数据行后,事务 B 插入了一条新数据且符合条件范围,事务 A 再次查询时,发现多了一条数据。
sql
-- 事务 A
START TRANSACTION;
SELECT * FROM employees WHERE department = 'HR'; -- 读取到 10 条记录
-- 事务 B
START TRANSACTION;
INSERT INTO employees (id, name, department) VALUES (11, 'John Doe', 'HR');
COMMIT;
-- 事务 A 再次查询
SELECT * FROM employees WHERE department = 'HR'; -- 读取到 11 条记录 (幻读)
COMMIT;
可以通过设置隔离级别为可串行化来避免幻读,代价是降低并发性能。
不同的隔离级别,在并发事务下可能会发生什么问题?
隔离级别 | 脏读 | 不可重复读 | 幻读 |
---|---|---|---|
Read Uncommited 读取未提交 | 是 | 是 | 是 |
Read Commited 读取已提交 | 否 | 是 | 是 |
Repeatable Read 可重复读 | 否 | 否 | 是 |
Serialzable 可串行化 | 否 | 否 | 否 |
52.事务的各个隔离级别都是如何实现的? 🚀
读未提交是如何实现的?
不提供任何锁机制来保护读取的数据,允许读取未提交的数据(即脏读)。
读已提交&可重复读是如何实现的?
读已提交和可重复读通过 MVCC 机制中的 ReadView 来实现。
- READ COMMITTED:每次读取数据前都生成一个 ReadView,保证每次读操作都是最新的数据。
- REPEATABLE READ:只在第一次读操作时生成一个 ReadView,后续读操作都使用这个 ReadView,保证事务内读取的数据是一致的。
串行化是如何实现的?
事务在读操作时,必须先加表级共享锁,直到事务结束才释放;事务在写操作时,必须先加表级排他锁,直到事务结束才释放。
53.MVCC 了解吗?怎么实现的?
MVCC 是多版本并发控制(Multi-Version Concurrency Control)的简称,主要用来解决数据库并发问题。
在支持 MVCC 的数据库中,当多个用户同时访问数据时,每个用户都可以看到一个在某一时间点之前的数据库快照,并且能够无阻塞地执行查询和修改操作,而不会相互干扰。
在传统的锁机制中,如果一个事务正在写数据,那么其他事务必须等待写事务完成才能读数据,MVCC 允许读操作访问数据的一个旧版本快照,同时写操作创建一个新的版本,这样读写操作就可以并行进行,不必等待对方完成。
在 MySQL 中,特别是 InnoDB 存储引擎,MVCC 是通过版本链和 ReadView 机制来实现的。
什么是版本链?
在 InnoDB 中,每一行数据都有两个隐藏的列:一个是 DB_TRX_ID,另一个是 DB_ROLL_PTR。
DB_TRX_ID
,保存创建这个版本的事务 ID。DB_ROLL_PTR
,指向 undo 日志记录的指针,这个记录包含了该行的前一个版本的信息。通过这个指针,可以访问到该行数据的历史版本。
假设有一张hero
表,表中有一行记录 name 为张三,city 为帝都,插入这行记录的事务 id 是 80。此时,DB_TRX_ID
的值就是 80,DB_ROLL_PTR
的值就是指向这条 insert undo 日志的指针。
接下来,如果有两个DB_TRX_ID
分别为100
、200
的事务对这条记录进行了update
操作,那么这条记录的版本链就会变成下面这样:
当事务更新一行数据时,InnoDB 不会直接覆盖原有数据,而是创建一个新的数据版本,并更新 DB_TRX_ID 和 DB_ROLL_PTR,使得它们指向前一个版本和相关的 undo 日志。这样,老版本的数据不会丢失,可以通过版本链找到。
由于 undo 日志会记录每一次的 update,并且新插入的行数据会记录上一条 undo 日志的指针,所以可以通过这个指针找到上一条记录,这样就形成了一个版本链。
说说什么是 ReadView?
ReadView(读视图)是 InnoDB 为了实现一致性读(Consistent Read)而创建的数据结构,它用于确定在特定事务中哪些版本的行记录是可见的。
ReadView 主要用来处理隔离级别为"可重复读"(REPEATABLE READ)和"读已提交"(READ COMMITTED)的情况。因为在这两个隔离级别下,事务在读取数据时,需要保证读取到的数据是一致的,即读取到的数据是在事务开始时的一个快照。
当事务开始执行时,InnoDB 会为该事务创建一个 ReadView,这个 ReadView 会记录 4 个重要的信息:
- creator_trx_id:创建该 ReadView 的事务 ID。
- m_ids:所有活跃事务的 ID 列表,活跃事务是指那些已经开始但尚未提交的事务。
- min_trx_id:所有活跃事务中最小的事务 ID。它是 m_ids 数组中最小的事务 ID。
- max_trx_id :事务 ID 的最大值加一。换句话说,它是下一个将要生成的事务 ID。
ReadView 是如何判断记录的某个版本是否可见的?
当一个事务读取某条数据时,InnoDB 会根据 ReadView 中的信息来判断该数据的某个版本是否可见。
①、如果某个数据版本的 DB_TRX_ID 小于 min_trx_id,则该数据版本在生成 ReadView 之前就已经提交,因此对当前事务是可见的。
②、如果某个数据版本的 DB_TRX_ID 大于 max_trx_id,则表示创建该数据版本的事务在生成 ReadView 之后开始,因此对当前事务是不可见的。
③、如果某个数据版本的 DB_TRX_ID 在 min_trx_id 和 max_trx_id 之间,需要判断 DB_TRX_ID 是否在 m_ids 列表中:
- 不在,表示创建该数据版本的事务在生成 ReadView 之后已经提交,因此对当前事务也是可见的。
- 在,则表示创建该数据版本的事务仍然活跃,或者在当前事务生成 ReadView 之后开始,因此对当前事务是不可见的。
上面这种方式有点绕,我讲一个简单的记忆规则。
读事务开启了一个 ReadView,这个 ReadView 里面记录了当前活跃事务的 ID 列表(444、555、665),以及最小事务 ID(444)和最大事务 ID(666)。当然还有自己的事务 ID 520,也就是 creator_trx_id。
它要读的这行数据的写事务 ID 是 x,也就是 DB_TRX_ID。
- 如果 x = 110,显然在 ReadView 生成之前就提交了,所以这行数据是可见的。
- 如果 x = 667,显然是未知世界,所以这行数据对读操作是不可见的。
- 如果 x = 519,虽然 519 大于 444 小于 666,但是 519 不在活跃事务列表里,所以这行数据是可见的。因为 519 是在 520 生成 ReadView 之前就提交了。
- 如果 x = 555,虽然 555 大于 444 小于 666,但是 555 在活跃事务列表里,所以这行数据是不可见的。因为 555 不确定有没有提交。
可重复读和读已提交在 ReadView 上的区别是什么?
可重复读(REPEATABLE READ)和读已提交(READ COMMITTED)的区别在于生成 ReadView 的时机不同。
- 可重复读:在第一次读取数据时生成一个 ReadView,这个 ReadView 会一直保持到事务结束,这样可以保证在事务中多次读取同一行数据时,读取到的数据是一致的。
- 读已提交:每次读取数据前都生成一个 ReadView,这样就能保证每次读取的数据都是最新的。
如果两个 AB 事务并发修改一个变量,那么 A 读到的值是什么,怎么分析。
当两个事务 A 和 B 并发修改同一个变量时,A 事务读取到的值取决于多个因素,包括事务的隔离级别、事务的开始时间和提交时间等。
- 读未提交:在这个级别下,事务可以看到其他事务尚未提交的更改。如果 B 更改了一个变量但尚未提交,A 可以读到这个更改的值。
- 读提交:A 只能看到 B 提交后的更改。如果 B 还没提交,A 将看到更改前的值。
- 可重复读:在事务开始后,A 总是读取到变量的相同值,即使 B 在这期间提交了更改。这是通过 MVCC 机制实现的。
- 可串行化:A 和 B 的操作是串行执行的,如果 A 先执行,那么 A 读到的值就是 B 提交前的值;如果 B 先执行,那么 A 读到的值就是 B 提交后的值。
高可用/性能
54.数据库读写分离了解吗? 🚀
读写分离的基本原理是将数据库读写操作分散到不同的节点上,下面是基本架构图:
读写分离的基本实现是:
- 数据库服务器搭建主从集群,一主一从、一主多从都可以。
- 数据库主机负责读写操作,从机只负责读操作。
- 数据库主机通过复制将数据同步到从机,每台数据库服务器都存储了所有的业务数据。
- 业务服务器将写操作发给数据库主机,将读操作发给数据库从机。
55.那读写分离的分配怎么实现呢? 🚀
将读写操作区分开来,然后访问不同的数据库服务器,一般有两种方式:程序代码封装和中间件封装。
- 程序代码封装
程序代码封装指在代码中抽象一个数据访问层(所以有的文章也称这种方式为 "中间层封装" ) ,实现读写操作分离和数据库服务器连接的管理。例如,基于 Hibernate 进行简单封装,就可以实现读写分离:
目前开源的实现方案中,淘宝的 TDDL (Taobao Distributed Data Layer, 外号:头都大了)是比较有名的。
- 中间件封装
中间件封装指的是独立一套系统出来,实现读写操作分离和数据库服务器连接的管理。中间件对业务服务器提供 SQL 兼容的协议,业务服务器无须自己进行读写分离。
对于业务服务器来说,访问中间件和访问数据库没有区别,事实上在业务服务器看来,中间件就是一个数据库服务器。
其基本架构是:
56.主从复制原理了解吗? 🚀
MySQL 的主从复制(Master-Slave Replication)是一种数据同步机制,用于将数据从一个主数据库(master)复制到一个或多个从数据库(slave)。
广泛用于数据备份、灾难恢复和数据分析等场景。
复制过程的主要步骤有:
- 在主服务器上,所有修改数据的语句(如 INSERT、UPDATE、DELETE)会被记录到二进制日志中。
- 主服务器上的一个线程(二进制日志转储线程)负责读取二进制日志的内容并发送给从服务器。
- 从服务器接收到二进制日志数据后,会将这些数据写入自己的中继日志(Relay Log)。中继日志是从服务器上的一个本地存储。
- 从服务器上有一个 SQL 线程会读取中继日志,并在本地数据库上执行,从而将更改应用到从数据库中,完成同步。
57.主从同步延迟怎么处理? 🚀
主从同步延迟的原因
一个服务器开放N个链接给客户端来连接的,这样有会有大并发的更新操作, 但是从服务器的里面读取 binlog 的线程仅有一个,当某个 SQL 在从服务器上执行的时间稍长或者由于某个 SQL 要进行锁表就会导致,主服务器的 SQL 大量积压,未被同步到从服务器里。这就导致了主从不一致, 也就是主从延迟。
主从同步延迟的解决办法
解决主从复制延迟有几种常见的方法:
- 写操作后的读操作指定发给数据库主服务器
例如,注册账号完成后,登录时读取账号的读操作也发给数据库主服务器。这种方式和业务强绑定,对业务的侵入和影响较大,如果哪个新来的程序员不知道这样写代码,就会导致一个 bug。
- 读从机失败后再读一次主机
这就是通常所说的 "二次读取" ,二次读取和业务无绑定,只需要对底层数据库访问的 API 进行封装即可,实现代价较小,不足之处在于如果有很多二次读取,将大大增加主机的读操作压力。例如,黑客暴力破解账号,会导致大量的二次读取操作,主机可能顶不住读操作的压力从而崩溃。
- 关键业务读写操作全部指向主机,非关键业务采用读写分离
例如,对于一个用户管理系统来说,注册 + 登录的业务读写操作全部访问主机,用户的介绍、爰好、等级等业务,可以采用读写分离,因为即使用户改了自己的自我介绍,在查询时却看到了自我介绍还是旧的,业务影响与不能登录相比就小很多,还可以忍受。
58.你们一般是怎么分库的呢? 🚀
分库分表是为了解决单库单表数据量过大导致数据库性能下降的一种解决方案。
分库的策略有两种:
①、垂直分库:按照业务模块将不同的表拆分到不同的库中,例如,用户表、订单表、商品表等分到不同的库中。
②、水平分库:按照一定的策略将一个表中的数据拆分到多个库中,例如,按照用户 id 的 hash 值将用户表拆分到不同的库中。
59.那你们是怎么分表的? 🚀
当单表数据增量过快,业界流传的说法是超过 500 万的数据量就要考虑分表了。
在技术派实战项目中,我们将文章表和文章详情表做了分表处理,因为文章的详情数据量会比较大,而文章的基本信息数据量会比较小。
垂直拆分可以减轻只查询文章基本数据,不需要附带文章详情时的查询压力。
当然了,当表的数据量过大时,仍然要考虑水平分表,将一个表的数据分散到多个表中,以减轻单表的查询压力。
比如说我们将文章表拆分成多个表,如 article_0、article_9999、article_19999 等。
60.水平分表有哪几种路由方式? 🚀
为了实现水平分表,需要设计合适的路由策略来确定数据应该存储在哪个表中,具体哪个表,由分片键(Sharding Key)来决定,分片键的选择应满足以下条件:
- 高区分度:分片键的值应尽量均匀分布,以避免数据倾斜。
- 查询频率高:选择经常在查询条件中使用的字段作为分片键,有助于提高查询效率。
- 写入频率高:选择经常被写入的字段,可以均匀分布写入负载。
那常见的路由策略有三种,分别是范围路由、Hash 路由和配置路由。
什么是范围路由?
范围路由是根据某个字段的值范围进行分表。这种方式适用于分片键具有顺序性或连续性的场景。
范围路由的优点是实现简单,可以随着数据的增加平滑地扩充新的表。适用于按时间或按顺序增长的字段(如时间戳、订单号等)。缺点是可能出现数据倾斜问题,导致某些表的数据量明显大于其他表。
什么是 Hash 路由?
哈希路由是通过对分片键进行哈希计算,然后取模来确定数据存储的表。哈希值决定了数据分布,通常能较好地平衡数据量。
假如我们一开始规划好了 4 个数据表,那么路由算法可以简单地通过取模来实现:
java
public String getTableNameByHash(long userId) {
int tableIndex = (int) (userId % 4);
return "user_" + tableIndex;
}
哈希路由的优点是数据可以均匀分布,避免了数据倾斜,但范围查询时可能会涉及多个表,性能较差。
什么是配置路由?
配置路由是通过配置表来确定数据存储的表,适用于分片键不规律的场景。
比如说我们可以通过 order_router 表来确定订单数据存储在哪个表中:
order_id | table_id |
---|---|
1 | table_1 |
2 | table_2 |
3 | table_3 |
配置路由的优点是可以根据实际情况灵活配置。缺点是需要额外的配置表,维护成本较高。
61.不停机扩容怎么实现? 🚀
实际上,不停机扩容,实操起来是个非常麻烦而且很有风险的操作,当然,面试回答起来就简单很多。
- 第一阶段:在线双写,查询走老库
- 建立好新的库表结构,数据写入旧库的同时,也写入拆分的新库
- 数据迁移,使用数据迁移程序,将旧库中的历史数据迁移到新库
- 使用定时任务,新旧库的数据对比,把差异补齐
- 第二阶段:在线双写,查询走新库
- 完成了历史数据的同步和校验
- 把对数据的读切换到新库
- 第三阶段:旧库下线
- 旧库不再写入新的数据
- 经过一段时间,确定旧库没有请求之后,就可以下线老库
62.常用的分库分表中间件有哪些? 🚀
- sharding-jdbc
- Mycat
63.那你觉得分库分表会带来什么问题呢? 🚀
从分库的角度来讲:
- 事务的问题
使用关系型数据库,有很大一点在于它保证事务完整性。
而分库之后单机事务就用不上了,必须使用分布式事务来解决。
- 跨库 JOIN 问题
在一个库中的时候我们还可以利用 JOIN 来连表查询,而跨库了之后就无法使用 JOIN 了。
此时的解决方案就是在业务代码中进行关联,也就是先把一个表的数据查出来,然后通过得到的结果再去查另一张表,然后利用代码来关联得到最终的结果。
这种方式实现起来稍微比较复杂,不过也是可以接受的。
还有可以适当的冗余一些字段。比如以前的表就存储一个关联 ID,但是业务时常要求返回对应的 Name 或者其他字段。这时候就可以把这些字段冗余到当前表中,来去除需要关联的操作。
还有一种方式就是数据异构,通过 binlog 同步等方式,把需要跨库 join 的数据异构到 ES 等存储结构中,通过 ES 进行查询。
从分表的角度来看:
- 跨节点的 count,order by,group by 以及聚合函数问题
只能由业务代码来实现或者用中间件将各表中的数据汇总、排序、分页然后返回。
- 数据迁移,容量规划,扩容等问题
数据的迁移,容量如何规划,未来是否可能再次需要扩容,等等,都是需要考虑的问题。
- ID 问题
数据库表被切分后,不能再依赖数据库自身的主键生成机制,所以需要一些手段来保证全局主键唯一。
- 还是自增,只不过自增步长设置一下。比如现在有三张表,步长设置为 3,三张表 ID 初始值分别是 1、2、3。这样第一张表的 ID 增长是 1、4、7。第二张表是 2、5、8。第三张表是 3、6、9,这样就不会重复了。
- UUID,这种最简单,但是不连续的主键插入会导致严重的页分裂,性能比较差。
- 分布式 ID,比较出名的就是 Twitter 开源的 sonwflake 雪花算法
运维
64.百万级别以上的数据如何删除? 🚀
关于索引:由于索引需要额外的维护成本,因为索引文件是单独存在的文件,所以当我们对数据的增加,修改,删除,都会产生额外的对索引文件的操作,这些操作需要消耗额外的 IO,会降低增/改/删的执行效率。
所以,在我们删除数据库百万级别数据的时候,查询 MySQL 官方手册得知删除数据的速度和创建的索引数量是成正比的。
- 所以我们想要删除百万数据的时候可以先删除索引
- 然后删除其中无用数据
- 删除完成后重新创建索引创建索引也非常快
65.百万千万级大表如何添加字段? 🚀
当线上的数据库数据量到达几百万、上千万的时候,加一个字段就没那么简单,因为可能会长时间锁表。
大表添加字段,通常有这些做法:
- 通过中间表转换过去
创建一个临时的新表,把旧表的结构完全复制过去,添加字段,再把旧表数据复制过去,删除旧表,新表命名为旧表的名称,这种方式可能回丢掉一些数据。
- 用 pt-online-schema-change
pt-online-schema-change
是 percona 公司开发的一个工具,它可以在线修改表结构,它的原理也是通过中间表。
- 先在从库添加 再进行主从切换
如果一张表数据量大且是热表(读写特别频繁),则可以考虑先在从库添加,再进行主从切换,切换后再将其他几个节点上添加字段。
66.MySQL 数据库 cpu 飙升的话,要怎么处理呢? 🚀
排查过程:
(1)使用 top 命令观察,确定是 mysqld 导致还是其他原因。
(2)如果是 mysqld 导致的,show processlist,查看 session 情况,确定是不是有消耗资源的 sql 在运行。
(3)找出消耗高的 sql,看看执行计划是否准确, 索引是否缺失,数据量是否太大。
处理:
(1)kill 掉这些线程 (同时观察 cpu 使用率是否下降),
(2)进行相应的调整 (比如说加索引、改 sql、改内存参数)
(3)重新跑这些 SQL。
其他情况:
也有可能是每个 sql 消耗资源并不多,但是突然之间,有大量的 session 连进来导致 cpu 飙升,这种情况就需要跟应用一起来分析为何连接数会激增,再做出相应的调整,比如说限制连接数等
SQL 题
70.一张表:id,name,age,sex,class,sql 语句:所有年龄为 18 的人的名字?找到每个班年龄大于 18 有多少人?找到每个班年龄排前两名的人?(补充)
这是一道 SQL 题,主要考察 SQL 的基本语法。建议大家直接在本地建表,然后实操一下。 2024 年 04 月 11 日增补。
第一步,建表:
sql
CREATE TABLE students (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(50),
age INT,
sex CHAR(1),
class VARCHAR(50)
);
第二步,插入数据:
sql
INSERT INTO students (name, age, sex, class) VALUES
('沉默王二', 18, '女', '三年二班'),
('沉默王一', 20, '男', '三年二班'),
('沉默王三', 19, '男', '三年三班'),
('沉默王四', 17, '男', '三年三班'),
('沉默王五', 20, '女', '三年四班'),
('沉默王六', 21, '男', '三年四班'),
('沉默王七', 18, '女', '三年四班');
①、所有年龄为 18 的人的名字
sql
SELECT name FROM students WHERE age = 18;
这条 SQL 语句从表中选择age
等于 18 的所有记录,并返回这些记录的name
字段。
②、找到每个班年龄大于 18 有多少人
sql
SELECT class, COUNT(*) AS number_of_students
FROM students
WHERE age > 18
GROUP BY class;
这条 SQL 语句先筛选出年龄大于 18 的记录,然后按class
分组,并计算每个班的学生数。
③、找到每个班年龄排前两名的人
这个查询稍微复杂一些,需要使用子查询和COUNT
函数。
sql
SELECT a.class, a.name, a.age
FROM students a
WHERE (
SELECT COUNT(DISTINCT b.age)
FROM students b
WHERE b.class = a.class AND b.age > a.age
) < 2
ORDER BY a.class, a.age DESC;
这条 SQL 语句首先从students
表中选择class
、name
和age
字段,然后使用子查询计算每个班级中年龄排前两名的学生。
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:一张表:id,name,age,sex,class,sql 语句:所有年龄为 18 的人的名字?找到每个班年龄大于 18 有多少人?找到每个班年龄排前两名的人?
71.有一个查询需求,MySQL 中有两个表,一个表 1000W 数据,另一个表只有几千数据,要做一个关联查询,如何优化
如果 orders 表是大表(比如 1000 万条记录),而 users 表是相对较小的表(比如几千条记录)。
①、为关联字段建立索引,确保两个表中用于 JOIN 操作的字段都有索引。这是最基本的优化策略,避免数据库进行全表扫描,可以大幅度减少查找匹配行的时间。
sql
CREATE INDEX idx_user_id ON users(user_id);
CREATE INDEX idx_user_id ON orders(user_id);
②、小表驱动大表,在执行 JOIN 操作时,先过滤小表中的数据,这样可以减少后续与大表进行 JOIN 时需要处理的数据量,从而提高查询效率。
sql
SELECT u.*, o.*
FROM (
SELECT user_id
FROM users
WHERE some_condition -- 这里是对小表进行过滤的条件
) AS filtered_users
JOIN orders o ON filtered_users.user_id = o.user_id
WHERE o.some_order_condition; -- 如果需要,可以进一步过滤大表
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:有一个查询需求,MySQL 中有两个表,一个表 1000W 数据,另一个表只有几千数据,要做一个关联查询,如何优化
72.新建一个表结构,创建索引,将百万或千万级的数据使用 insert 导入该表,新建一个表结构,将百万或千万级的数据使用 isnert 导入该表,再创建索引,这两种效率哪个高呢?或者说用时短呢?
talk is cheap,show me the code。
先创建一个表,然后创建索引,然后执行插入语句,来看看执行时间(100 万数据在我本机上执行时间比较长,我们就用 10 万条数据来测试)。
sql
CREATE TABLE test_table (
id BIGINT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255) NOT NULL,
email VARCHAR(255) NOT NULL,
created_at DATETIME NOT NULL
);
CREATE INDEX idx_name ON test_table(name);
DELIMITER //
CREATE PROCEDURE insert_data()
BEGIN
DECLARE i INT DEFAULT 0;
WHILE i < 1000000 DO
INSERT INTO test_table(name, email, created_at)
VALUES (CONCAT('wanger',i), CONCAT('email', i, '@example.com'), NOW());
SET i = i + 1;
END WHILE;
END //
DELIMITER ;
CALL insert_data();
这是一个完整的测试过程,通过存储过程来执行插入操作,然后查看总的执行时间。
在实际的开发工作中,可能涉及到持久层框架,还有批量插入。
总的时间 13.93+0.01+0.01+0.01=13.96 秒。
接下来,我们再创建一个表,然后执行插入操作,最后再创建索引。
sql
CREATE TABLE test_table_no_index (
id BIGINT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255) NOT NULL,
email VARCHAR(255) NOT NULL,
created_at DATETIME NOT NULL
);
DELIMITER //
CREATE PROCEDURE insert_data_no_index()
BEGIN
DECLARE i INT DEFAULT 0;
WHILE i < 1000000 DO
INSERT INTO test_table_no_index(name, email, created_at)
VALUES (CONCAT('wanger', i), CONCAT('email', i, '@example.com'), NOW());
SET i = i + 1;
END WHILE;
END //
DELIMITER ;
CALL insert_data_no_index();
CREATE INDEX idx_name_no_index ON test_table_no_index(name);
来看一下总的时间,0.01+0.00+13.08+0.18=13.27 秒。
先插入数据再创建索引的方式(13.27 秒)比先创建索引再插入数据(13.96 秒)要快一些。这个结果虽然显示时间差异不是非常大,但它确实反映了数据库处理大量数据插入时的性能特点。
- 先插入数据再创建索引:在没有索引的情况下插入数据,数据库不需要在每次插入时更新索引,这会减少插入操作的开销。之后一次性创建索引通常比逐条记录更新索引更快。
- 先创建索引再插入数据:这种情况下,数据库需要在每次插入新记录时维护索引结构,随着数据量的增加,索引的维护可能会导致额外的性能开销。
数据库是先建立索引还是先插入数据?
在 InnoDB 中,如果表定义了主键,那么主键索引就是聚簇索引。如果没有明确指定主键,InnoDB 会自动选择一个唯一索引作为聚簇索引。如果表没有任何唯一索引,InnoDB 将自动生成一个隐藏的行 ID 作为聚簇索引。
这意味着当插入新数据时,InnoDB 首先将数据插入到聚簇索引中。这一步骤实质上是创建索引的一部分,因为数据存放在索引结构中。
对于非主键的其他索引(次级索引),在插入数据到聚簇索引后,InnoDB 还需要更新表的所有次级索引。这些索引中的每一个都包含指向聚簇索引记录的指针。
所以在 InnoDB 中,数据插入和索引创建(更新)是密不可分的。从数据库的视角看,插入操作包括向聚簇索引添加记录和更新所有相关的次级索引。这些步骤在一个事务中原子地执行,以确保数据的一致性和完整性。
- Java 面试指南(付费)收录的农业银行面经同学 7 Java 后端面试原题:数据库是先建立索引还是先插入数据
74.什么是深分页,select * from tbn limit 1000000000 这个有什么问题,如果表大或者表小分别什么问题
深分页指的是在分页查询中,请求的页数非常大,例如请求第 100 万页的数据。在这种情况下,数据库需要跳过前 999999 页的数据,会消耗大量的 CPU 和 I/O 资源,导致查询性能下降。
select * from tbn limit 1000000000
正是一个深分页查询。
- 如果表的数据量非常大,那么这个查询可能会消耗大量的内存和 CPU 资源,甚至可能导致数据库崩溃。
- 如果表的数据量非常小,比如说只有 100 条,那就会返回这前 100 条,虽然没什么性能影响,但这个查询本身没什么意义。
75.一个表(name, sex,age,id),select age,id,name from tblname where name='paicoding';怎么建索引
索引的建立应当基于查询中的过滤条件(WHERE 子句)以及查询的选择列(SELECT 子句)。
由于查询条件是name='paicoding'
,所以应当为name
字段建立索引。
sql
CREATE INDEX idx_name ON tblname(name);
查询中选择了age
、id
和name
字段,如果这三列经常一起使用,可以考虑建立包含这些字段的联合索引。可以将查询条件中的字段放在联合索引的首位,这样查询时可以利用索引覆盖,直接从索引中获取数据,而不需要再去查找数据行。
sql
CREATE INDEX idx_name_age_id ON tblname (name, age, id);
表字段id(主键)age name select name,age from 表 where name like(A%) and age =30会不会走索引?
可以创建组合索引 (name, age),这可以利用 name 和 age 的双重条件来高效地进行查询。
76.SQL 题:一个学生成绩表,字段有学生姓名、班级、成绩,求各班前十名
这是一个典型的 SQL 题,主要考察 SQL 的基本语法和分组查询。
第一步,建表:
sql
CREATE TABLE student_scores (
student_name VARCHAR(100),
class VARCHAR(50),
score INT
);
第二步,插入数据:
sql
INSERT INTO student_scores (student_name, class, score) VALUES
('沉默王二', '三年二班', 88),
('沉默王三', '三年二班', 92),
('沉默王四', '三年二班', 87),
('沉默王五', '三年二班', 85),
('沉默王六', '三年二班', 90),
('沉默王七', '三年二班', 95),
('沉默王八', '三年二班', 82),
('沉默王九', '三年二班', 78),
('沉默王十', '三年二班', 91),
('沉默王十一', '三年二班', 79),
('沉默王十二', '三年三班', 84),
('沉默王十三', '三年三班', 81),
('沉默王十四', '三年三班', 90),
('沉默王十五', '三年三班', 88),
('沉默王十六', '三年三班', 87),
('沉默王十七', '三年三班', 93),
('沉默王十八', '三年三班', 89),
('沉默王十九', '三年三班', 85),
('沉默王二十', '三年三班', 92),
('沉默王二十一', '三年三班', 84);
第三步,查询各班前十名:
sql
SET @cur_class = NULL, @cur_rank = 0;
SELECT student_name, class, score
FROM (
SELECT
student_name,
class,
score,
@cur_rank := IF(@cur_class = class, @cur_rank + 1, 1) AS rank,
@cur_class := class
FROM student_scores
ORDER BY class, score DESC
) AS ranked
WHERE ranked.rank <= 10;
使用 @cur_class
和 @cur_rank
来跟踪当前行的班级和排名。
在 SELECT 语句中,通过检查当前班级(@cur_class
)是否与上一行相同来决定排名。如果相同,则增加排名;如果不同,则重置排名为 1。
然后通过 ORDER BY 子句确保在计算排名前按班级和分数排序。
图文详解 81 道 MySQL 面试高频题,这次吊打面试官,我觉得稳了(手动 dog)。
没有什么使我停留——除了目的,纵然岸旁有玫瑰、有绿荫、有宁静的港湾,我是不系之舟。