- 相關(guān)推薦
PHP查詢MySQL大量數(shù)據(jù)的時(shí)候內(nèi)存占用分析
文章主要是從原理, 手冊(cè)和源碼分析在PHP中查詢MySQL返回大量結(jié)果時(shí), 內(nèi)存占用的問(wèn)題, 同時(shí)對(duì)使用MySQL C API也有涉及.跟隨小編去看看吧!
昨天, 有同事在PHP討論群里提到, 他做的一個(gè)項(xiàng)目由于MySQL查詢返回的結(jié)果太多(達(dá)10萬(wàn)條), 從而導(dǎo)致PHP內(nèi)存不夠用. 所以, 他問(wèn), 在執(zhí)行下面的代碼遍歷返回的MySQL結(jié)果之前, 數(shù)據(jù)是否已經(jīng)在內(nèi)存中了? -
復(fù)制代碼 代碼如下:
while ($row = mysql_fetch_assoc($result)) {
// ...
}
當(dāng)然, 這種問(wèn)題有許多優(yōu)化的方法. 不過(guò), 就這個(gè)問(wèn)題來(lái)講, 我首先想到, MySQL是經(jīng)典的C/S(Client/Server, 客戶端/服務(wù)器)模型, 在遍歷結(jié)果集之前, 底層的實(shí)現(xiàn)可能已經(jīng)把所有的數(shù)據(jù)通過(guò)網(wǎng)絡(luò)(假設(shè)使用TCP/IP)讀到了Client的緩沖區(qū), 也有另一種可能, 就是數(shù)據(jù)還在Server端的發(fā)送緩沖區(qū)里, 并沒(méi)有傳給Client.
在查看PHP和MySQL的源碼之前, 我注意到PHP手冊(cè)里有兩個(gè)功能相近的函數(shù):
復(fù)制代碼 代碼如下:
mysql_query()
mysql_unbuffered_query()
兩個(gè)函數(shù)的字面意思和說(shuō)明證實(shí)了我的想法, 前一個(gè)函數(shù)執(zhí)行時(shí), 會(huì)把所有的結(jié)果集從Server端讀到Client端的緩沖區(qū)中, 而后一個(gè)則沒(méi)有, 這就是”unbuffered(未緩沖)”的意思.
那就是說(shuō), 如果用mysql_unbuffered_query()執(zhí)行了一條返回大量結(jié)果集的SQL語(yǔ)句, 在遍歷結(jié)果之前, PHP的內(nèi)存是沒(méi)有被結(jié)果集占用的. 而用mysql_query()來(lái)執(zhí)行同樣的語(yǔ)句的話, 函數(shù)返回時(shí), PHP的內(nèi)存占用便會(huì)急劇增加, 立即耗光內(nèi)存.
如果閱讀PHP的相關(guān)代碼, 可以看到這兩個(gè)函數(shù)的實(shí)現(xiàn)上的異同:
復(fù)制代碼 代碼如下:
/* {{{ proto resource mysql_query(string query [, int link_identifier])
Sends an SQL query to MySQL */
PHP_FUNCTION(mysql_query)
{
php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT);
}
/* }}} */
/* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier])
Sends an SQL query to MySQL, without fetching and buffering the result rows */
PHP_FUNCTION(mysql_unbuffered_query)
{
php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT);
}
/* }}} */
兩個(gè)函數(shù)都調(diào)用了php_mysql_do_query(), 只差了第2個(gè)參數(shù)的不同, MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的實(shí)現(xiàn):
復(fù)制代碼 代碼如下:
if(use_store == MYSQL_USE_RESULT) {
mysql_result=mysql_use_result(&mysql->conn);
} else {
mysql_result=mysql_store_result(&mysql->conn);
}
mysql_use_result()和mysql_store_result()是MySQL的C API函數(shù), 這兩個(gè)C API函數(shù)的區(qū)別就是后者把結(jié)果集從MySQL Server端全部讀取到了Client端, 前者只是讀取了結(jié)果集的元信息.
回到PHP, 使用mysql_unbuffered_query(), 可以避免內(nèi)存的立即占用. 如果在遍歷的過(guò)程不對(duì)結(jié)果進(jìn)行”PHP緩存”(如放到某數(shù)組中), 則整個(gè)執(zhí)行過(guò)程雖然操作了十萬(wàn)條或者百萬(wàn)條或者更多的數(shù)據(jù), 但PHP占用的內(nèi)存始終是非常小的.
【PHP查詢MySQL大量數(shù)據(jù)的時(shí)候內(nèi)存占用分析】相關(guān)文章:
PHP查詢大量數(shù)據(jù)內(nèi)存耗盡問(wèn)題的解決方法07-24
PHP與MYSql連接與查詢06-19
php查詢mysql的實(shí)例09-09
PHP 中 MySQL 數(shù)據(jù)庫(kù)異步查詢實(shí)現(xiàn)08-22
php基礎(chǔ)之連接mysql數(shù)據(jù)庫(kù)和查詢數(shù)據(jù)07-30
關(guān)于php操作mysql執(zhí)行數(shù)據(jù)庫(kù)查詢08-11
PHP讀取MySQL數(shù)據(jù)的代碼方法10-21