php處理數據
Ⅰ php循環處理大量數據,如何提高性能
性能指標,無非時間復雜度和空間復雜度。決定性能的,只有演算法和硬體。而且解釋型語言並不存在真正的數據結構,所以,只能從演算法上優化。
Ⅱ 在PHP中怎麼解決大量數據處理的問題
mysql_query函數查詢的方式是查詢出全部結果後緩存到內存中,這樣就會出現超內存的現象,使用另外一個函數mysql_unbuffered_query可以解決這個問題,mysql_unbuffered_query不會緩存結果集,而是查詢出來數據後立馬對結果集進行操作,也就是便查詢邊返回,這樣就不會出現超出內存的現象,但是使用mysql_unbuffered_query的是時候不能使用 mysql_num_rows() 和 mysql_data_seek()。並且向 MySQL 發送一條新的 SQL 查詢之前,必須提取掉所有未緩存的 SQL 查詢所產生的結果行。例如:
使用緩存結果集的代碼:
function selecttest()
{
try {
$pdo = new PDO("mysql:host=localhost;dbname=test", 'root', '123456');
// 不使用緩存結果集方式
// $pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
$sth = $pdo->prepare('select * from test');
$sth->execute();
echo '最初佔用內存大小:' . memory_get_usage() . "\n";
$i = 0;
while ($result = $sth->fetch(PDO::FETCH_ASSOC)) {
$i += 1;
if ($i > 10) {
break;
}
sleep(1);
print_r($result);
echo '佔用內存大小:' . memory_get_usage() . "\n";
}
} catch (Exception $e) {
echo $e->getMessage();
}
}
執行時將會報超出內存的錯誤:
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 204800000 bytes) in E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php on line 56
Call Stack:
0.0005 135392 1. {main}() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:0
0.0005 135568 2. test->selecttest() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:85
0.0050 142528 3. PDOStatement->execute() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:56
將上面代碼中的$pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);一行的注釋去掉後將不在緩存結果集,這時運行該函數的結果如下:
最初佔用內存大小:144808
Array
(
[id] => 1
[a] => v
[b] => w
[c] => i
)
佔用內存大小:145544
Array
(
[id] => 2
[a] => b
[b] => l
[c] => q
)
佔用內存大小:145544
Array
(
[id] => 3
[a] => m
[b] => p
[c] => h
)
佔用內存大小:145536
Array
(
[id] => 4
[a] => j
[b] => i
[c] => b
)
佔用內存大小:145536
可以看到,這時返回一條數據內存佔用非常的小,也就700多位元組,這樣就不會出現超出內存的錯誤了。
Ⅲ PHP 怎麼處理前端發過來AJAX json數據,求大神指點
像你這樣傳值的話,服務端接收的不是JSON數據的, 而是普通的POST數據,你接收方式也是POST接收數據的方式。
你說列印沒數據, 那你就不要列印你處理過之後的變數,在一開始就運行這一句:
var_mp($_POST);//首先確保你的數據正常傳送到了服務端
再排查。 而且你這里也用不上 json_encode();
Ⅳ php處理數據的問題
<?php
$str = <<< HHH
region=BJ
162.105/16, 166.111/16, 202.4.128/19,
202.112.64/18, 202.112.128/17, 202.113/16, 202.204/14, 210.31/16, 211.68/16, 211.71/16,
211.81/16, 211.82/16, 219.242/16, 219.243.0/17, 219.243.128/18,
219.224.0/17, 219.224.128/18, 219.225/16, 219.226/16, 222.28/14,
222.199/16, 59.64/14, 203.91.120/21, 121.193/16, 121.194/15,
118.228/15, 118.230/16, 121.52.160/19, 115.24/14
region=XA
202.117/16, 202.200/15, 210.26/15, 218.195/16, 219.244/14, 222.23/16, 222.24/15,
59.74/15, 59.76/16, 120.95/16, 115.154/15
region=CD
202.115/16, 202.202/15, 210.40/15, 211.83/16, 218.194/16, 219.221/16, 222.18/15, 222.196/15, 222.198/16, 121.48/15, 120.94/16, 113.54/15
region=GZ
202.38.192/18, 202.116/16, 202.192/15, 210.36/14, 211.66/16, 218.192/16, 219.222/15, 219.227/16,
222.16/15, 222.200/14, 125.216/15, 125.218/16, 116.56/15, 116.13/16,
110.64/15
region=WH
202.114/16, 202.196/15, 210.42/15, 211.69/16, 211.67/16, 211.84/15, 218.196/14, 222.20/15, 222.22/16, 59.68/14,
125.219/16, 125.220/15, 122.204/14, 115.156/15, 115.158/16
region=NJ
202.38.64/19, 202.119/16, 202.194/15, 210.44/15, 210.28/15, 211.64/15, 211.70/16, 211.86/15, 219.218/15, 219.230/15,
222.192/14, 222.206/15, 58.192/15, 121.248/14,
114.212/15, 114.214/16
region=SH
202.120/15, 210.32/14, 211.80/16, 218.193/16, 219.220/16, 219.228/15, 222.204/15, 59.77/16, 59.78/15,
58.198/15, 121.192/16, 111.186/15
region=SY
202.118/16, 202.198/15, 210.46/15, 210.30/16, 219.216/15, 222.26/15, 59.72/15, 125.222/15,
58.154/15, 118.202/15
region=MISC
202.38.96/19, 202.38.140/23, 202.38.184/21, 202.127.216/21, 202.127.224/19, 202.112.0/18, 210.25.128/18,
219.243.192/18, 219.224.192/18, 210.25.0/17
region=CIS
58.194/15, 58.200/13
region=TTN
58.196/15
region=TEIN2
202.179.240/20
HHH;
$reg = '/(?<=region=)(\w+)(.+?)(?=region=)/s';
preg_match_all($reg, $str, $matches);
//echo nl2br(var_export($matches, true));
$result = array();
foreach($matches[1] as $key=>$val)
{
$header = array("$val");//BJ
$body = explode(',', $matches[2][$key]);//162.105/16, 166.111/16, 202.4.128/19...
$result[] = array_merge($header, $body);//merge array
}
//match last
$str2 = substr($str, strrpos($str, 'region='));
$reg2 = '/(?<=region=)(\w+)(.+)/s';
preg_match($reg2, $str2, $matches2);
$tmp = explode(',', $matches2[2]);
array_unshift($tmp, $matches2[1]);
$result[] = $tmp;
echo '<hr>';
echo nl2br(var_export($result, true));
?>
//換行符不知怎麼弄的,就是找不到,所以多出了空格。
Ⅳ php 處理上百萬條的資料庫如何提高處理查詢速度
1.對查詢進行優化,應盡量避免全表掃描,首先應考慮在 where 及 order by 涉及的列上建立索引。
2.應盡量避免在 where 子句中對欄位進行 null 值判斷,否則將導致引擎放棄使用索引而進行全表掃描,如:
select id from t where num is null
可以在num上設置默認值0,確保表中num列沒有null值,然後這樣查詢:
select id from t where num=0
3.應盡量避免在 where 子句中使用!=或<>操作符,否則將引擎放棄使用索引而進行全表掃描。
4.應盡量避免在 where 子句中使用 or 來連接條件,否則將導致引擎放棄使用索引而進行全表掃描,如:
select id from t where num=10 or num=20
可以這樣查詢:
select id from t where num=10
union all
select id from t where num=20
5.in 和 not in 也要慎用,否則會導致全表掃描,如:
select id from t where num in(1,2,3)
對於連續的數值,能用 between 就不要用 in 了:
select id from t where num between 1 and 3
6.下面的查詢也將導致全表掃描:
select id from t where name like '%abc%'
若要提高效率,可以考慮全文檢索。
7.如果在 where 子句中使用參數,也會導致全表掃描。因為SQL只有在運行時才會解析局部變數,但優化程序不能將訪問計劃的選擇推遲到運行時;它必須在編譯時進行選擇。然而,如果在編譯時建立訪問計劃,變數的值還是未知的,因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描:
select id from t where num=@num
可以改為強制查詢使用索引:
select id from t with(index(索引名)) where num=@num
8.應盡量避免在 where 子句中對欄位進行表達式操作,這將導致引擎放棄使用索引而進行全表掃描。如:
select id from t where num/2=100
應改為:
select id from t where num=100*2
9.應盡量避免在where子句中對欄位進行函數操作,這將導致引擎放棄使用索引而進行全表掃描。如:
select id from t where substring(name,1,3)='abc'--name以abc開頭的id
select id from t where datediff(day,createdate,'2005-11-30')=0--『2005-11-30'生成的id
應改為:
select id from t where name like 'abc%'
select id from t where createdate>='2005-11-30' and createdate<'2005-12-1'
10.不要在 where 子句中的「=」左邊進行函數、算術運算或其他表達式運算,否則系統將可能無法正確使用索引。
11.在使用索引欄位作為條件時,如果該索引是復合索引,那麼必須使用到該索引中的第一個欄位作為條件時才能保證系統使用該索引,否則該索引將不會被使用,並且應盡可能的讓欄位順序與索引順序相一致。
12.不要寫一些沒有意義的查詢,如需要生成一個空表結構:
select col1,col2 into #t from t where 1=0
這類代碼不會返回任何結果集,但是會消耗系統資源的,應改成這樣:
create table #t(...)
13.很多時候用 exists 代替 in 是一個好的選擇:
select num from a where num in(select num from b)
用下面的語句替換:
select num from a where exists(select 1 from b where num=a.num)
14.並不是所有索引對查詢都有效,SQL是根據表中數據來進行查詢優化的,當索引列有大量數據重復時,SQL查詢可能不會去利用索引,如一表中有欄位sex,male、female幾乎各一半,那麼即使在sex上建了索引也對查詢效率起不了作用。
15.索引並不是越多越好,索引固然可以提高相應的 select 的效率,但同時也降低了 insert 及 update 的效率,因為 insert 或 update 時有可能會重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個表的索引數最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。
16.應盡可能的避免更新 clustered 索引數據列,因為 clustered 索引數據列的順序就是表記錄的物理存儲順序,一旦該列值改變將導致整個表記錄的順序的調整,會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引數據列,那麼需要考慮是否應將該索引建為 clustered 索引。
17.盡量使用數字型欄位,若只含數值信息的欄位盡量不要設計為字元型,這會降低查詢和連接的性能,並會增加存儲開銷。這是因為引擎在處理查詢和連接時會逐個比較字元串中每一個字元,而對於數字型而言只需要比較一次就夠了。
18.盡可能的使用 varchar/nvarchar 代替 char/nchar ,因為首先變長欄位存儲空間小,可以節省存儲空間,其次對於查詢來說,在一個相對較小的欄位內搜索效率顯然要高些。
19.任何地方都不要使用 select * from t ,用具體的欄位列表代替「*」,不要返回用不到的任何欄位。
20.盡量使用表變數來代替臨時表。如果表變數包含大量數據,請注意索引非常有限(只有主鍵索引)。
21.避免頻繁創建和刪除臨時表,以減少系統表資源的消耗。
22.臨時表並不是不可使用,適當地使用它們可以使某些常式更有效,例如,當需要重復引用大型表或常用表中的某個數據集時。但是,對於一次性事件,最好使用導出表。
23.在新建臨時表時,如果一次性插入數據量很大,那麼可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果數據量不大,為了緩和系統表的資源,應先create table,然後insert。
24.如果使用到了臨時表,在存儲過程的最後務必將所有的臨時表顯式刪除,先 truncate table ,然後 drop table ,這樣可以避免系統表的較長時間鎖定。
25.盡量避免使用游標,因為游標的效率較差,如果游標操作的數據超過1萬行,那麼就應該考慮改寫。
26.使用基於游標的方法或臨時表方法之前,應先尋找基於集的解決方案來解決問題,基於集的方法通常更有效。
27.與臨時表一樣,游標並不是不可使用。對小型數據集使用 FAST_FORWARD 游標通常要優於其他逐行處理方法,尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括「合計」的常式通常要比使用游標執行的速度快。如果開發時間允許,基於游標的方法和基於集的方法都可以嘗試一下,看哪一種方法的效果更好。
28.在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ,在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句後向客戶端發送 DONE_IN_PROC 消息。
29.盡量避免大事務操作,提高系統並發能力。
30.盡量避免向客戶端返回大數據量,若數據量過大,應該考慮相應需求是否合理。
Ⅵ PHP操作資料庫是如何對特殊字元進行處理
存數據的時候,需要對字元串進行addslashes
()進行操作$str=addslashes($str);$sql="insert
into
`tab`
(`content`)
values('$str')";去除數據的時候操作如下$str=stripslashes($str);在頁面顯示時進行如下操作$str=htmlspecialchars(nl2br($str))
;
查看原帖>>
Ⅶ 怎麼處理php加密的數據
php將密碼存入資料庫,可以分內常見的4種方式:
1、直接md5加密存到到資料庫
2、md5兩次存到資料庫
3、對需要加密的字元串和一個常量 進行混淆加密
4、生成一個隨機的變數存到資料庫中,然後對需要加密的字元串和這個隨機變數加密
1
2
3
4
5
6
7
8
9
10
11
12
<?php
$str="admin"; //需要加密的字元串
$str2="php"; //增加一個常量混淆
$pass1=md5($str);
$pass2=md5(md5($str));
$pass3=md5($str.$str2);
echo $pass1."".$pass2."".$pass3;
?>
輸出:
第四種
1
2
3
4
$str="admin"; //需要加密的字元串
$encrypt=$row['encrypt']; // 生成的 隨機加密字元串 存到資料庫中
$pass4=md5($str.$encrypt);
//
Ⅷ php處理大量數據時,運行到一定時間就中斷了,請問如何解決
php處理數據時會有一個等待時間,就是所說的超時時間,而且如果使用mysql的話,它也有一個超時時間,運行一串代碼時間如果超過配置文件的時間,會被中斷不運行。第一種你可以修改php配置文件timeout的運行時間,第二你可以分批處理大量數據,注意是分批處理,就OK了。
Ⅸ 用php實現數組數據的處理
$logis_name = array('韻達','順豐','申通','韻達');
$logis_no = array('123465','123654','654123','456789');
$data = array();
foreach($logis_name as $key => $value){
if(isset($data[base64_encode($value)])){
$data[base64_encode($value)] = $data[base64_encode($value)].','.$logis_no[$key];
}else{
$data[base64_encode($value)] = $logis_no[$key];
}
}
$data = implode('|',$data);
print_r($data);
Ⅹ php批量數據處理問題
錯誤不在這里,要看你的deletefxhw.php,這個頁因為是批處理,所以要把各個值都傳到deletefxhw.php這個頁,這個頁再把那個id分出來,進行批操作,檢查deletefxhw.php這個頁,或把這個頁代碼發上來