0 follower

查询构建器

查询构建器建立在 Database Access Objects 基础之上,可让你创建 程序化的、DBMS无关的SQL语句。相比于原生的SQL语句,查询构建器可以帮你 写出可读性更强的SQL相关的代码,并生成安全性更强的SQL语句。

使用查询构建器通常包含以下两个步骤:

  1. 创建一个 yii\db\Query 对象来代表一条 SELECT SQL 语句的不同子句(例如 SELECT, FROM)。
  2. 执行 yii\db\Query 的一个查询方法(例如:all())从数据库当中检索数据。

如下所示代码是查询构造器的一个典型用法:

$rows = (new \yii\db\Query())
    ->select(['id', 'email'])
    ->from('user')
    ->where(['last_name' => 'Smith'])
    ->limit(10)
    ->all();

上面的代码将会生成并执行如下的SQL语句,其中 :last_name 参数绑定了 字符串 'Smith'

SELECT `id`, `email` 
FROM `user`
WHERE `last_name` = :last_name
LIMIT 10

提示: 你平时更多的时候会使用 yii\db\Query 而不是 yii\db\QueryBuilder。 当你调用其中一个查询方法时,后者将会被前者隐式的调用。yii\db\QueryBuilder主要负责将 DBMS 不相关的 yii\db\Query 对象转换成 DBMS 相关的 SQL 语句(例如, 以不同的方式引用表或字段名称)。

创建查询

为了创建一个 yii\db\Query 对象,你需要调用不同的查询构建方法来代表SQL语句的不同子句。 这些方法的名称集成了在SQL语句相应子句中使用的关键字。例如,为了指定 SQL 语句当中的 FROM 子句,你应该调用 from() 方法。所有的查询构建器方法返回的是查询对象本身, 也就是说,你可以把多个方法的调用串联起来。

接下来,我们会对这些查询构建器方法进行一一讲解:

select()

select() 方法用来指定 SQL 语句当中的 SELECT 子句。 你可以像下面的例子一样使用一个数组或者字符串来定义需要查询的字段。当 SQL 语句 是由查询对象生成的时候,被查询的字段名称将会自动的被引号括起来。

$query->select(['id', 'email']);

// 等同于:

$query->select('id, email');

就像写原生 SQL 语句一样,被选取的字段可以包含表前缀,以及/或者字段别名。 例如:

$query->select(['user.id AS user_id', 'email']);

// 等同于:

$query->select('user.id AS user_id, email');

如果使用数组格式来指定字段,你可以使用数组的键值来表示字段的别名。 例如,上面的代码可以被重写为如下形式:

$query->select(['user_id' => 'user.id', 'email']);

如果你在组建查询时没有调用 select() 方法,那么选择的将是 '*' , 也即选取的是所有的字段。

除了字段名称以外,你还可以选择数据库的表达式。当你使用到包含逗号的数据库表达式的时候, 你必须使用数组的格式,以避免自动的错误的引号添加。例如:

$query->select(["CONCAT(first_name, ' ', last_name) AS full_name", 'email']); 

与所有涉及原始 SQL 的地方一样,当在 select 中编写 DB 表达式时,可以对表名和列名使用 与 DBMS 无关的引用语法

从 2.0.1 的版本开始你就可以使用子查询了。在定义每一个子查询的时候, 你应该使用 yii\db\Query 对象。例如:

$subQuery = (new Query())->select('COUNT(*)')->from('user');

// SELECT `id`, (SELECT COUNT(*) FROM `user`) AS `count` FROM `post`
$query = (new Query())->select(['id', 'count' => $subQuery])->from('post');

你应该调用 distinct() 方法来去除重复行,如下所示:

// SELECT DISTINCT `user_id` ...
$query->select('user_id')->distinct();

你可以调用 addSelect() 方法来选取附加字段,例如:

$query->select(['id', 'username'])
    ->addSelect(['email']);

from()

from() 方法指定了 SQL 语句当中的 FROM 子句。例如:

// SELECT * FROM `user`
$query->from('user');

你可以通过字符串或者数组的形式来定义被查询的表名称。就像你写原生的 SQL 语句一样, 表名称里面可包含数据库前缀,以及/或者表别名。例如:

$query->from(['public.user u', 'public.post p']);

// 等同于:

$query->from('public.user u, public.post p');

如果你使用的是数组的格式,那么你同样可以用数组的键值来定义表别名,如下所示:

$query->from(['u' => 'public.user', 'p' => 'public.post']);

除了表名以外,你还可以从子查询中再次查询,这里的子查询是由 yii\db\Query 创建的对象。 例如:

$subQuery = (new Query())->select('id')->from('user')->where('status=1');

// SELECT * FROM (SELECT `id` FROM `user` WHERE status=1) u 
$query->from(['u' => $subQuery]);

前缀

from 还可以应用默认的 tablePrefix 前缀,实现细节请参考 “数据库访问对象指南”的“Quoting Tables”章节.

where()

where() 方法定义了 SQL 语句当中的 WHERE 子句。 你可以使用如下四种格式来定义 WHERE 条件:

  • 字符串格式,例如:'status=1'
  • 哈希格式,例如: ['status' => 1, 'type' => 2]
  • 操作符格式,例如:['like', 'name', 'test']
  • 对象格式,例如:new LikeCondition('name', 'LIKE', 'test')

字符串格式

在定义非常简单的查询条件的时候,字符串格式是最合适的。 它看起来和原生 SQL 语句差不多。例如:

$query->where('status=1');

// 或使用参数绑定来绑定动态参数值
$query->where('status=:status', [':status' => $status]);

// 原生 SQL 在日期字段上使用 MySQL YEAR() 函数
$query->where('YEAR(somedate) = 2015');

千万不要像如下的例子一样直接在条件语句当中嵌入变量,特别是当这些变量来源于终端用户输入的时候, 因为这样我们的软件将很容易受到 SQL 注入的攻击。

// 危险!千万别这样干,除非你非常的确定 $status 是一个整型数值。
$query->where("status=$status");

当使用 参数绑定 的时候,你可以调用 params() 或者 addParams() 方法 来分别绑定不同的参数。

$query->where('status=:status')
    ->addParams([':status' => $status]);

与涉及原生 SQL 的所有地方一样,在以字符串格式写入条件时,可以对表名和列名使用 与 DBMS 无关的引用语法

哈希格式

哈希格式最适合用来指定多个 AND 串联起来的简单的"等于断言"子条件。 它是以数组的形式来书写的,数组的键表示字段的名称,而数组的值则表示 这个字段需要匹配的值。例如:

// ...WHERE (`status` = 10) AND (`type` IS NULL) AND (`id` IN (4, 8, 15))
$query->where([
    'status' => 10,
    'type' => null,
    'id' => [4, 8, 15],
]);

就像你所看到的一样,查询构建器非常的智能,能恰当地处理数值当中的空值和数组。

你也可以像下面那样在子查询当中使用哈希格式:

$userQuery = (new Query())->select('id')->from('user');

// ...WHERE `id` IN (SELECT `id` FROM `user`)
$query->where(['id' => $userQuery]);

使用哈希格式,Yii 在内部对相应的值进行参数绑定,与 字符串格式 相比, 此处你不需要手动添加参数绑定。但请注意,Yii 不会帮你转义列名,所以如果你 从用户端获得的变量作为列名而没有进行任何额外的检查,对于 SQL 注入攻击, 你的程序将变得很脆弱。为了保证应用程序的安全,请不要将变量用作列名 或者你必须用白名单过滤变量。如果你实在需要从用户获取列名,请阅读 过滤数据 章节。例如,以下代码易受攻击:

// 易受攻击的代码:
$column = $request->get('column');
$value = $request->get('value');
$query->where([$column => $value]);
// $value 是安全的,但是 $column 名不会被转义处理!

操作符格式

操作符格式允许你指定类程序风格的任意条件语句,如下所示:

[操作符, 操作数1, 操作数2, ...]

其中每个操作数可以是字符串格式、哈希格式或者嵌套的操作符格式, 而操作符可以是如下列表中的一个:

  • and:操作数会被 AND 关键字串联起来。例如,['and', 'id=1', 'id=2'] 将会生成 id=1 AND id=2。如果操作数是一个数组,它也会按上述规则转换成 字符串。例如,['and', 'type=1', ['or', 'id=1', 'id=2']] 将会生成 type=1 AND (id=1 OR id=2)。 这个方法不会自动加引号或者转义。

  • or:用法和 and 操作符类似,这里就不再赘述。

  • not:只需要操作数 1,它将包含在 NOT() 中。例如,['not','id = 1'] 将生成 ['not', 'id=1']。操作数 1 也可以是个描述多个表达式的数组。例如 ['not', ['status' => 'draft', 'name' => 'example']] 将生成 NOT ((status='draft') AND (name='example'))

  • between:第一个操作数为字段名称,第二个和第三个操作数代表的是这个字段 的取值范围。例如,['between', 'id', 1, 10] 将会生成 id BETWEEN 1 AND 10。 如果你需要建立一个值在两列之间的查询条件(比如 11 BETWEEN min_id AND max_id), 你应该使用 BetweenColumnsCondition。 请参阅 条件-对象格式 一章以了解有关条件的对象定义的更多信息。

  • not between:与 between 类似,除了 BETWEENNOT BETWEEN 替换 在生成条件时。

  • in:第一个操作数应为字段名称或者 DB 表达式。第二个操作符既可以是一个数组, 也可以是一个 Query 对象。它会转换成IN 条件语句。如果第二个操作数是一个 数组,那么它代表的是字段或 DB 表达式的取值范围。如果第二个操作数是 Query 对象,那么这个子查询的结果集将会作为第一个操作符的字段或者 DB 表达式的取值范围。 例如, ['in', 'id', [1, 2, 3]] 将生成 id IN (1, 2, 3)。 该方法将正确地为字段名加引号以及为取值范围转义。in 操作符还支持组合字段,此时, 操作数1应该是一个字段名数组,而操作数2应该是一个数组或者 Query 对象, 代表这些字段的取值范围。

  • not in:用法和 in 操作符类似,这里就不再赘述。

  • like:第一个操作数应为一个字段名称或 DB 表达式, 第二个操作数可以使字符串或数组, 代表第一个操作数需要模糊查询的值。比如,['like', 'name', 'tester'] 会生成 name LIKE '%tester%'。 如果范围值是一个数组,那么将会生成用 AND 串联起来的 多个 like 语句。例如,['like', 'name', ['test', 'sample']] 将会生成 name LIKE '%test%' AND name LIKE '%sample%'。 你也可以提供第三个可选的操作数来指定应该如何转义数值当中的特殊字符。 该操作数是一个从需要被转义的特殊字符到转义副本的数组映射。 如果没有提供这个操作数,将会使用默认的转义映射。如果需要禁用转义的功能, 只需要将参数设置为 false 或者传入一个空数组即可。需要注意的是, 当使用转义映射(又或者没有提供第三个操作数的时候),第二个操作数的值的前后 将会被加上百分号。

注意: 当使用 PostgreSQL 的时候你还可以使用 ilike, 该方法对大小写不敏感。

  • or like:用法和 like 操作符类似,区别在于当第二个操作数为数组时, 会使用 OR 来串联多个 LIKE 条件语句。

  • not like:用法和 like 操作符类似,区别在于会使用 NOT LIKE 来生成条件语句。

  • or not like:用法和 not like 操作符类似,区别在于会使用 OR 来串联多个 NOT LIKE 条件语句。

  • exists:需要一个操作数,该操作数必须是代表子查询 yii\db\Query 的一个实例, 它将会构建一个 EXISTS (sub-query) 表达式。

  • not exists:用法和 exists 操作符类似,它将创建一个 NOT EXISTS (sub-query) 表达式。

  • ><= 或者其他包含两个操作数的合法 DB 操作符:第一个操作数必须为字段的名称, 而第二个操作数则应为一个值。例如,['>', 'age', 10] 将会生成 age>10

使用操作符格式,Yii 在内部对相应的值进行参数绑定,因此与 字符串格式 相比, 此处你不需要手动添加参数。但请注意,Yii 不会帮你转义列名,所以如果你 从用户端获得的变量作为列名而没有进行任何额外的检查,对于 SQL 注入攻击, 你的程序将变得很脆弱。为了保证应用程序的安全,请不要将变量用作列名 或者你必须用白名单过滤变量。如果你实在需要从用户获取列名,请阅读 过滤数据 章节。例如,以下代码易受攻击:

// 易受攻击的代码:
$column = $request->get('column');
$value = $request->get('value');
$query->where(['=', $column, $value]);
// $value 是安全的,但是 $column 名不会被转义处理!

对象格式(Object Form)

对象格式自 2.0.14 开始提供,是定义条件的最强大和最复杂的方法。 如果你要在查询构建器上构建自己的抽象方法或者如果你要实现自己的复杂条件, 你需要它(Object Form)

条件类的实例是不可变的。他们唯一的用途是存储条件数据 并为条件构建器提供 getters 属性。条件构建器是一个包含转换逻辑的类, 它将存储的条件数据转换为 SQL 表达式。

在内部,上面描述的格式在构建 SQL 之前被隐式转换为对象格式, 因此可以在单一条件语句下组合适合的格式:

$query->andWhere(new OrCondition([
    new InCondition('type', 'in', $types),
    ['like', 'name', '%good%'],
    'disabled=false'
]))

操作符格式与对象格式的对应关系是在 QueryBuilder::conditionClasses 属性中定义, 这里列举一些比较有代表性的映射关系:

  • AND, OR -> yii\db\conditions\ConjunctionCondition
  • NOT -> yii\db\conditions\NotCondition
  • IN, NOT IN -> yii\db\conditions\InCondition
  • BETWEEN, NOT BETWEEN -> yii\db\conditions\BetweenCondition

等等

使用对象格式可以定义自己的条件集,并且可以更容易维护别人定义的条件集。(注:这里是说对象比数组更可靠) 更多细节请参考 Adding Custom Conditions and Expressions 章节。

附加条件

你可以使用 andWhere() 或者 orWhere() 在原有条件的基础上 附加额外的条件。你可以多次调用这些方法来分别追加不同的条件。 例如,

$status = 10;
$search = 'yii';

$query->where(['status' => $status]);

if (!empty($search)) {
    $query->andWhere(['like', 'title', $search]);
}

如果 $search 不为空,那么将会生成如下 SQL 语句:

... WHERE (`status` = 10) AND (`title` LIKE '%yii%')

过滤条件

WHERE 条件来自于用户的输入时,你通常需要忽略用户输入的空值。 例如,在一个可以通过用户名或者邮箱搜索的表单当中,用户名或者邮箱 输入框没有输入任何东西,这种情况下你想要忽略掉对应的搜索条件, 那么你就可以使用 filterWhere() 方法来实现这个目的:

// $username 和 $email 来自于用户的输入
$query->filterWhere([
    'username' => $username,
    'email' => $email,		
]);

filterWhere()where() 唯一的不同就在于,前者 将忽略在条件当中的hash format的空值。所以如果 $email 为空而 $username 不为空,那么上面的代码最终将生产如下 SQL ...WHERE username=:username

提示: 当一个值为 null、空数组、空字符串或者一个只包含空格的字符串时,那么它将被判定为空值。

类似于 andWhere()orWhere(), 你可以使用 andFilterWhere()orFilterWhere() 方法 来追加额外的过滤条件。

此外,yii\db\Query::andFilterCompare() 可以根据值中的内容智能地确定运算符:

$query->andFilterCompare('name', 'John Doe');
$query->andFilterCompare('rating', '>9');
$query->andFilterCompare('value', '<=100');

您还可以显式指定运算符:

$query->andFilterCompare('name', 'Doe', 'like');

Yii 自 2.0.11 版起 ,提供了 HAVING 条件的一些构建方法:

orderBy()

orderBy() 方法是用来指定 SQL 语句当中的 ORDER BY 子句的。例如,

// ... ORDER BY `id` ASC, `name` DESC
$query->orderBy([
    'id' => SORT_ASC,
    'name' => SORT_DESC,
]);

如上所示,数组当中的键指代的是字段名称,而数组当中的值则表示的是排序的方式。 PHP 的常量 SORT_ASC 指的是升序排列,SORT_DESC 指的则是降序排列。

如果 ORDER BY 仅仅包含简单的字段名称,你可以使用字符串来声明它, 就像写原生的 SQL 语句一样。例如,

$query->orderBy('id ASC, name DESC');

注意: ORDER BY 语句包含一些 DB 表达式的时候,你应该使用数组的格式。

你可以调用 addOrderBy() 来为 ORDER BY 片断添加额外的子句。 例如,

$query->orderBy('id ASC')
    ->addOrderBy('name DESC');

groupBy()

groupBy() 方法是用来指定 SQL 语句当中的 GROUP BY 片断的。例如,

// ... GROUP BY `id`, `status`
$query->groupBy(['id', 'status']);

如果 GROUP BY 仅仅包含简单的字段名称,你可以使用字符串来声明它, 就像写原生的 SQL 语句一样。例如,

$query->groupBy('id, status');

注意: GROUP BY 语句包含一些 DB 表达式的时候,你应该使用数组的格式。

你可以调用 addOrderBy() 来为 GROUP BY 子句添加额外的字段。例如,

$query->groupBy(['id', 'status'])
    ->addGroupBy('age');

having()

having() 方法是用来指定 SQL 语句当中的 HAVING 子句。它带有一个条件, 和 where() 中指定条件的方法一样。例如,

// ... HAVING `status` = 1
$query->having(['status' => 1]);

请查阅 where() 的文档来获取更多有关于如何指定一个条件的细节。

你可以调用 andHaving() 或者 orHaving() 方法来为 HAVING 子句追加额外的条件,例如,

// ... HAVING (`status` = 1) AND (`age` > 30)
$query->having(['status' => 1])
    ->andHaving(['>', 'age', 30]);

limit()offset()

limit()offset() 是用来指定 SQL 语句当中 的 LIMITOFFSET 子句的。例如,

// ... LIMIT 10 OFFSET 20
$query->limit(10)->offset(20);

如果你指定了一个无效的 limit 或者 offset(例如,一个负数),那么它将会被忽略掉。

提示: 在不支持 LIMITOFFSET 的 DBMS 中(例如,MSSQL), 查询构建器将生成一条模拟 LIMIT/OFFSET 行为的 SQL 语句。

join()

join() 是用来指定 SQL 语句当中的 JOIN 子句的。例如,
`php
// ... LEFT JOIN post ON post.user_id = user.id
$query->join('LEFT JOIN', 'post', 'post.user_id = user.id');
`
join() 带有四个参数:
- $type:连接类型,例如,'INNER JOIN''LEFT JOIN'
- $table:将要连接的表名称。
- $on:可选的,连接条件,即 ON 片段。有关指定条件的详细信息,请参阅 where()
请注意,数组语法 不能 用于指定基于列的条件,
例如,['user.id' => 'comment.userId'] 将导致用户 id 必须等于字符串
'comment.userId' 的情况。您应该使用字符串语法,并将条件指定为
'user.id = comment.userId'
- $params:可选参数,与连接条件绑定的参数。

你可以分别调用如下的快捷方法来指定 INNER JOIN, LEFT JOINRIGHT JOIN

例如,

$query->leftJoin('post', 'post.user_id = user.id');

可以通过多次调用如上所述的连接方法来连接多张表,每连接一张表调用一次。

除了连接表以外,你还可以连接子查询。方法如下,将需要被连接的子查询指定 为一个 yii\db\Query 对象,例如,

$subQuery = (new \yii\db\Query())->from('post');
$query->leftJoin(['u' => $subQuery], 'u.id = author_id');

在这个例子当中,你应该将子查询放到一个数组当中,而数组当中的键,则为这个子查询的别名。

union()

union() 方法是用来指定 SQL 语句当中的 UNION 子句的。例如,

$query1 = (new \yii\db\Query())
    ->select("id, category_id AS type, name")
    ->from('post')
    ->limit(10);

$query2 = (new \yii\db\Query())
    ->select('id, type, name')
    ->from('user')
    ->limit(10);

$query1->union($query2);

你可以通过多次调用 union() 方法来追加更多的 UNION 子句。

查询方法

yii\db\Query 提供了一整套的用于不同查询目的的方法。

  • all():将返回一个由行组成的数组,每一行是一个由名称和值构成的关联数组(译者注:省略键的数组称为索引数组)。
  • one():返回结果集的第一行。
  • column():返回结果集的第一列。
  • scalar():返回结果集的第一行第一列的标量值。
  • exists():返回一个表示该查询是否包结果集的值。
  • count():返回 COUNT 查询的结果。
  • 其它集合查询方法:包括 sum($q), average($q), max($q), min($q) 等。$q 是一个必选参数, 既可以是一个字段名称,又可以是一个 DB 表达式。

例如,

// SELECT `id`, `email` FROM `user`
$rows = (new \yii\db\Query())
    ->select(['id', 'email'])
    ->from('user')
    ->all();
    
// SELECT * FROM `user` WHERE `username` LIKE `%test%`
$row = (new \yii\db\Query())
    ->from('user')
    ->where(['like', 'username', 'test'])
    ->one();

注意: one() 方法只返回查询结果当中的第一条数据, 条件语句中不会加上 LIMIT 1 条件。如果你清楚的知道查询将会只返回一行或几行数据 (例如, 如果你是通过某些主键来查询的),这很好也提倡这样做。但是,如果查询结果 有机会返回大量的数据时,那么你应该显示调用 limit(1) 方法,以改善性能。 例如,(new \yii\db\Query())->from('user')->limit(1)->one()

所有的这些查询方法都有一个可选的参数 $db, 该参数指代的是 DB connection, 执行一个 DB 查询时会用到。如果你省略了这个参数,那么 db application component 将会被用作 默认的 DB 连接。 如下是另外一个使用 count() 查询的例子:

// 执行 SQL: SELECT COUNT(*) FROM `user` WHERE `last_name`=:last_name
$count = (new \yii\db\Query())
    ->from('user')
    ->where(['last_name' => 'Smith'])
    ->count();

当你调用 yii\db\Query 当中的一个查询方法的时候,实际上内在的运作机制如下:

有时候,你也许想要测试或者使用一个由 yii\db\Query 对象创建的 SQL 语句。 你可以使用以下的代码来达到目的:

$command = (new \yii\db\Query())
    ->select(['id', 'email'])
    ->from('user')
    ->where(['last_name' => 'Smith'])
    ->limit(10)
    ->createCommand();
    
// 打印 SQL 语句
echo $command->sql;
// 打印被绑定的参数
print_r($command->params);

// 返回查询结果的所有行
$rows = $command->queryAll();

索引查询结果

当你在调用 all() 方法时,它将返回一个以连续的整型数值为索引的数组。 而有时候你可能希望使用一个特定的字段或者表达式的值来作为索引结果集数组。那么你可以在调用 all() 之前使用 indexBy() 方法来达到这个目的。 例如,

// 返回 [100 => ['id' => 100, 'username' => '...', ...], 101 => [...], 103 => [...], ...]
$query = (new \yii\db\Query())
    ->from('user')
    ->limit(10)
    ->indexBy('id')
    ->all();

如需使用表达式的值做为索引,那么只需要传递一个匿名函数给 indexBy() 方法即可:

$query = (new \yii\db\Query())
    ->from('user')
    ->indexBy(function ($row) {
        return $row['id'] . $row['username'];
    })->all();

该匿名函数将带有一个包含了当前行的数据的 $row 参数,并且返回用作当前行索引的 标量值(译者注:就是简单的数值或者字符串,而不是其他复杂结构,例如数组)。

注意: groupBy() 或者 orderBy() 等查询方法不同, 他们将转换为 SQL 查询语句的一部分,而这个方法(indexBy)在从数据库取回数据后才生效执行的。 这意味着只能使用那些在你的 SELECT 查询中的列名。 此外,你用表名连接取列名的时候,比如 customer.id,结果中将只包含 id 列,因此你必须调用 ->indexBy('id') 不要带表名前缀。

批处理查询

当需要处理大数据的时候,像 yii\db\Query::all() 这样的方法就不太合适了, 因为它们会把所有查询的数据都读取到客户端内存上。为了解决这个问题, Yii 提供了批处理查询的支持。服务端先保存查询结果,然后客户端使用游标(cursor) 每次迭代出固定的一批结果集回来。

警告: MySQL 批处理查询的实现存在已知的局限性和变通方法。见下文。

批处理查询的用法如下:

use yii\db\Query;

$query = (new Query())
    ->from('user')
    ->orderBy('id');

foreach ($query->batch() as $users) {
    // $users 是一个包含100条或小于100条用户表数据的数组
}

// or to iterate the row one by one
foreach ($query->each() as $user) {
    // 数据从服务端中以 100 个为一组批量获取,
    // 但是 $user 代表 user 表里的一行数据
}

yii\db\Query::batch()yii\db\Query::each() 方法将会返回一个实现了Iterator 接口 yii\db\BatchQueryResult 的对象,可以用在 foreach 结构当中使用。在第一次迭代取数据的时候, 数据库会执行一次 SQL 查询,然后在剩下的迭代中,将直接从结果集中批量获取数据。默认情况下, 一批的大小为 100,也就意味着一批获取的数据是 100 行。你可以通过给 batch() 或者 each() 方法的第一个参数传值来改变每批行数的大小。

相对于 yii\db\Query::all() 方法,批处理查询每次只读取 100 行的数据到内存。

如果你通过 yii\db\Query::indexBy() 方法为查询结果指定了索引字段, 那么批处理查询将仍然保持相对应的索引方案, 例如,

$query = (new \yii\db\Query())
    ->from('user')
    ->indexBy('username');

foreach ($query->batch() as $users) {
    // $users 的 “username” 字段将会成为索引
}

foreach ($query->each() as $username => $user) {
    // ...
}

MySQL中批量查询的局限性(Limitations of batch query in MySQL)

MySQL 是通过 PDO 驱动库实现批量查询的。默认情况下,MySQL 查询是 带缓存的, 这违背了使用游标(cursor)获取数据的目的, 因为它不阻止驱动程序将整个结果集加载到客户端的内存中。

注意: 当使用 libmysqlclient 时(PHP5 的标配),计算 PHP 的内存限制时,用于数据结果集的内存不会计算在内。 看上去批量查询是正确运行的,实际上整个数据集都被加载到了客户端的内存中, 而且这个使用量可能还会再增长。

要禁用缓存并减少客户端内存的需求量,PDO 连接属性 PDO::MYSQL_ATTR_USE_BUFFERED_QUERY 必须设置为 false。 这样,直到整个数据集被处理完毕前,通过此连接是无法创建其他查询的。 这样的操作可能会阻碍 ActiveRecord 执行表结构查询。 如果这不构成问题(表结构已被缓存过了), 我们可以通过切换原本的连接到非缓存模式,然后在批量查询完成后再切换回来。

Yii::$app->db->pdo->setAttribute(\PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);

// 执行批量查询

Yii::$app->db->pdo->setAttribute(\PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, true);

注意: 对于 MyISAM,在执行批量查询的过程中,表可能将被锁, 将延迟或拒绝其他连接的写入操作。 当使用非缓存查询时,尽量缩短游标打开的时间。

如果表结构没有被缓存,或在批量查询被处理过程中需要执行其他查询, 你可以创建一个单独的非缓存链接到数据库:

$unbufferedDb = new \yii\db\Connection([
    'dsn' => Yii::$app->db->dsn,
    'username' => Yii::$app->db->username,
    'password' => Yii::$app->db->password,
    'charset' => Yii::$app->db->charset,
]);
$unbufferedDb->open();
$unbufferedDb->pdo->setAttribute(\PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);

如果你除了 PDO::MYSQL_ATTR_USE_BUFFERED_QUERYfalse 之外, 要确保 $unbufferedDb 拥有和原来缓存 $db 完全一样的属性, 请参阅实现 $db 的深度拷贝, 手动方法将它设置为 false 即可。

然后使用此连接正常创建查询,新连接用于运行批量查询, 逐条或批量进行结果处理:

// 获取 1000 为一组的批量数据
foreach ($query->batch(1000, $unbufferedDb) as $users) {
    // ...
}


// 每次从服务端批量获取1000个数据,但是逐个遍历进行处理
foreach ($query->each(1000, $unbufferedDb) as $user) {
    // ...
}

当结果集已处理完毕不再需要连接时,可以关闭它:

$unbufferedDb->close();

注意: 非缓存查询在 PHP 端使用更少的缓存,但会增加 MySQL 服务器端的负载。 建议您使用生产实践设计自己的代码以获取额外的海量数据,例如,将数字键分段,使用非缓存的查询遍历

添加自定义查询条件和表达式(Adding custom Conditions and Expressions)

我们在 查询条件-对象格式 章节中提到过,可以创建自定义的查询条件类。 举个栗子,我们需要创建一个查询条件,它可以检查某些字段小于特定值的情况。 当使用操作符格式时,代码如下:

[
    'and',
    '>', 'posts', $minLimit,
    '>', 'comments', $minLimit,
    '>', 'reactions', $minLimit,
    '>', 'subscriptions', $minLimit
]

当这样的查询条件仅被应用一次,没什么问题。当它在一个查询语句中被多次使用时,就有很多优化点了。 我们创建一个自定义查询条件对象来证实它。

Yii 有 ConditionInterface 接口类,必须用它来标识这是一个表示查询条件的类。 它需要实现 fromArrayDefinition() 方法,用来从数组格式创建查询条件。 如果我们不需要它,抛出一个异常来完成此方法即可。

创建自定义查询条件类,我们就可以构建最适合当前需求的 API。

namespace app\db\conditions;

class AllGreaterCondition implements \yii\db\conditions\ConditionInterface
{
    private $columns;
    private $value;

    /**
     * @param string[] $columns 要大于 $value 的字段名数组
     * @param mixed $value 每个 $column 要比较的数值
     */
    public function __construct(array $columns, $value)
    {
        $this->columns = $columns;
        $this->value = $value;
    }
    
    public static function fromArrayDefinition($operator, $operands)
    {
        throw new InvalidArgumentException('Not implemented yet, but we will do it later');
    }
    
    public function getColumns() { return $this->columns; }
    public function getValue() { return $this->vaule; }
}

我们现在创建了一个查询条件对象:

$conditon = new AllGreaterCondition(['col1', 'col2'], 42);

但是 QueryBuilder 还不知道怎样从此对象生成 SQL 查询条件。 因此我们还需要为这个条件对象创建一个构建器(Builder)。 这个构建器必须实现 yii\db\ExpressionBuilderInterface 接口和 build() 方法。

namespace app\db\conditions;

class AllGreaterConditionBuilder implements \yii\db\ExpressionBuilderInterface
{
    use \yii\db\ExpressionBuilderTrait; // Contains constructor and `queryBuilder` property.

    /**
     * @param ExpressionInterface $condition 要构建的查询条件对象
     * @param array $params 绑定的参数
     * @return AllGreaterCondition
     */ 
    public function build(ExpressionInterface $expression, array &$params = [])
    {
        $value = $condition->getValue();
        
        $conditions = [];
        foreach ($expression->getColumns() as $column) {
            $conditions[] = new SimpleCondition($column, '>', $value);
        }

        return $this->queryBuilder->buildCondition(new AndCondition($conditions), $params);
    }
}

接下来,让 QueryBuilder ]知道我们的新查询条件对象 – 添加一个映射到 expressionBuilders 数组中,在应用配置(application config)中完成即可:

'db' => [
    'class' => 'yii\db\mysql\Connection',
    // ...
    'queryBuilder' => [
        'expressionBuilders' => [
            'app\db\conditions\AllGreaterCondition' => 'app\db\conditions\AllGreaterConditionBuilder',
        ],
    ],
],

现在我们可以在 where() 中使用此查询条件对象了:

$query->andWhere(new AllGreaterCondition(['posts', 'comments', 'reactions', 'subscriptions'], $minValue));

如果我们想要自定义操作符查询条件,可以在 QueryBuilder::conditionClasses 中 这样声明:

'db' => [
    'class' => 'yii\db\mysql\Connection',
    // ...
    'queryBuilder' => [
        'expressionBuilders' => [
            'app\db\conditions\AllGreaterCondition' => 'app\db\conditions\AllGreaterConditionBuilder',
        ],
        'conditionClasses' => [
            'ALL>' => 'app\db\conditions\AllGreaterCondition',
        ],
    ],
],

并在 app\db\conditions\AllGreaterCondition 对象中实现 AllGreaterCondition::fromArrayDefinition()方法:

namespace app\db\conditions;

class AllGreaterCondition implements \yii\db\conditions\ConditionInterface
{
    // ... 这里省略其他方法的实现
     
    public static function fromArrayDefinition($operator, $operands)
    {
        return new static($operands[0], $operands[1]);
    }
}

然后呢,我们就可以使用更简短的操作符格式来创建自定义查询条件了:

$query->andWhere(['ALL>', ['posts', 'comments', 'reactions', 'subscriptions'], $minValue]);

你可能注意到了,这里使用到了两个概念:表达式对象和条件对象。表达式对象实现了 yii\db\ExpressionInterface 接口, 它还依赖于一个表达式构建器(Expression Builder)来执行构建逻辑,而表达式构建器实现了 yii\db\ExpressionBuilderInterface 接口。 而条件对象实现了 yii\db\condition\ConditionInterface 接口,它是继承了 ExpressionInterface 接口, 如上面的栗子所写的,它用于数组定义的条件的场景,当然条件对象也需要构建器。

总结起来就是:

  • Expression – 表达式对象,是数据集的数据转换对象(DTO),它可以被编译为一些特定 SQL 语句 (操作符、字符串、数组、JSON等等)。

  • Condition – 条件对象,是表达式对象超集,它可以聚合多个表达式对象(或标量值),然后编译成一条 SQL 查询条件。

你可以创建自己的类来实现 ExpressionInterface 接口,达到封装的目的:隐藏复杂的 SQL 语句拼装过程。 想学习到更多关于表达式对象的实践 请听 下回分解

Found a typo or you think this page needs improvement?
Edit it on github !