PHP开发中如何高效处理大量数据

// 使用合适的查询语句
$sql = "SELECT * FROM users WHERE age > 18";

// 使用索引
CREATE INDEX age_index ON users (age);

// 分批加载数据
$batchSize = 1000;
$page = 1;

do {
    $offset = ($page - 1) * $batchSize;
    $sql = "SELECT * FROM users LIMIT $offset, $batchSize";
    $users = $db->query($sql);

    // 处理数据
    foreach ($users as $user) {
        // 处理单个用户
        // ...
    }

    $page++;
} while (!empty($users));

// 检查缓存是否存在
if ($cache->has($key)) {
    // 从缓存中获取数据
    $data = $cache->get($key);
} else {
    // 数据不存在，从数据库或文件中获取数据
    $data = $db->query($sql);

    // 将数据存入缓存
    $cache->set($key, $data, $ttl);
}

// 使用数据
foreach ($data as $item) {
    // 处理数据
    // ...
}

// 使用多线程批量处理数据
function process($data)
{
    // 处理数据
    // ...
}

$threads = 4; // 线程数
$batchSize = 1000; // 每个线程处理的数据量

$data = $db->query($sql);

// 将数据分成多个批次，并使用多线程处理
$chunks = array_chunk($data, $batchSize);

foreach ($chunks as $chunk) {
    $thread = new Thread('process', $chunk);
    $thread->start();
}

// 等待所有子线程执行完毕
while (Thread::count() > 0) {
    usleep(1000);
}