PHP快速导出百万级数据到CSV或者EXCEL文件

办公软件 itxz 5年前 (2020-11-27) 274次浏览 已收录 0个评论

很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。

需要考虑服务器内存
需要考虑程序运行的最大时间
缺少BOM头导致乱码的处理
如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

下面源码将数据库信息修改成自己的即可使用
亲测导出一百万条数据,3个字段,不过20秒
如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低

<?<a href="http://www.itxz.com/?tag=php" title="查看更多关于php的文章" target="_blank">php</a>
  //让程序一直运行
  set_time_limit(0);
  //设置程序运行内存
  ini_set('memory_limit', '128M');
  
  $fileName = '测试导出数据';
  header('Content-Encoding: UTF-8');
  header("Content-type:application/vnd.ms-<a href="http://www.itxz.com/?tag=excel" title="查看更多关于excel的文章" target="_blank">excel</a>;charset=UTF-8");
  header('Content-Disposition: attachment;filename="' . $fileName . '.<a href="http://www.itxz.com/?tag=csv" title="查看更多关于csv的文章" target="_blank">csv</a>"');
   
  //打开<a href="http://www.itxz.com/?tag=php" title="查看更多关于php的文章" target="_blank">php</a>标准输出流
  $fp = fopen('<a href="http://www.itxz.com/?tag=php" title="查看更多关于php的文章" target="_blank">php</a>://output', 'a');
  
  //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
  fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
  //添加导出标题
  fput<a href="http://www.itxz.com/?tag=csv" title="查看更多关于csv的文章" target="_blank">csv</a>($fp, ['姓名', '年龄', '地区']);
   
  //链接数据库
  $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
  $pdo = new PDO($dsn, 'root', '');
  
  $step = 100; //循环次数
  $nums = 10000; //每次导出数量
  
  for($i = 0; $i < $step; $i++) {
    $start = $i * 10000;
    $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
    $pdostatement = $pdo->query($sql);
    $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
    foreach ($result as $item) {
      fput<a href="http://www.itxz.com/?tag=csv" title="查看更多关于csv的文章" target="_blank">csv</a>($fp, $item);
    }
    //每1万条数据就刷新缓冲区
    ob_flush();
    flush();
  } 

这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;

IT学者 , 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:PHP快速导出百万级数据到CSV或者EXCEL文件
喜欢 (0)

您必须 登录 才能发表评论!