0

0

如何使用 Shopify Bulk Operations 批量获取全部商品数据

花韻仙語

花韻仙語

发布时间:2025-12-29 18:15:39

|

595人浏览过

|

来源于php中文网

原创

如何使用 Shopify Bulk Operations 批量获取全部商品数据

本文介绍如何通过 shopify graphql bulk operations 高效获取店铺中全部商品(如 1300+ 条),替代易出错的 rest 分页轮询,避免手动解析 link 头、死循环或重复请求等问题。

在 Shopify 开发中,当需要拉取大量商品(例如 1300+ 条)时,直接依赖 REST API 的分页机制(如 page_info 或 since_id)极易引发逻辑错误:链接解析失败、状态未更新、递归失控、重复请求同一页面等——正如你在代码中遇到的 nextLink 恒定不变的问题。根本原因在于:你混合使用了两种不兼容的分页策略——既调用 shopify.rest.Product.all()(该方法内部已封装分页逻辑),又试图手动提取并拼接 Link 响应头,导致上下文错乱;同时 since_id 未随每次响应动态更新,使后续请求始终从初始 ID 开始,造成数据重叠与停滞。

✅ 正确解法:采用 Shopify 官方推荐的 GraphQL Bulk Operations(批量查询)。它专为海量数据导出设计,具备以下核心优势:

蛙蛙写作
蛙蛙写作

超级AI智能写作助手

下载
  • 单次声明式查询:无需手动管理翻页、链接解析或递归调用;
  • 异步执行 + 状态轮询:提交任务后由 Shopify 后台处理,支持百万级数据;
  • 结构化结果输出:返回标准化 JSONL(每行一个 JSON 对象),便于流式解析;
  • 字段精准控制:可指定仅获取 id, title, images, variants 等必要字段,减少传输开销。

? 快速实现步骤(Node.js 示例)

import { shopify } from './testingShopifyApp.js';
import { session } from './testingShopifyApp.js';

const client = new shopify.clients.Graphql({ session });

// 1. 构建 Bulk Query(支持分页自动处理)
const bulkQuery = `
  query {
    products(first: 250) {
      edges {
        node {
          id
          title
          images(first: 3) {
            edges {
              node {
                url
                altText
              }
            }
          }
        }
      }
      pageInfo {
        hasNextPage
        endCursor
      }
    }
  }
`;

// 2. 创建 Bulk Operation(异步任务)
async function createBulkOperation() {
  try {
    const response = await client.query({
      data: {
        mutation: `
          mutation bulkOperationRunQuery($query: String!) {
            bulkOperationRunQuery(query: $query) {
              bulkOperation {
                id
                status
              }
              userErrors {
                field
                message
              }
            }
          }
        `,
        variables: { query: bulkQuery.replace(/\s+/g, ' ').trim() },
      },
    });

    const bulkId = response.body.data.bulkOperationRunQuery.bulkOperation.id;
    console.log('✅ Bulk operation created:', bulkId);
    return bulkId;
  } catch (err) {
    console.error('❌ Failed to create bulk operation:', err);
    throw err;
  }
}

// 3. 轮询任务状态并下载结果
async function pollAndDownload(bulkId) {
  let status = 'CREATED';
  let url = null;

  while (['CREATED', 'RUNNING', 'CANCELING'].includes(status)) {
    const res = await client.query({
      data: {
        query: `
          query getBulkOperation($id: ID!) {
            node(id: $id) {
              ... on BulkOperation {
                id
                status
                errorCode
                createdAt
                objectCount
                fileSize
                url
                partialDataUrl
              }
            }
          }
        `,
        variables: { id: bulkId },
      },
    });

    const op = res.body.data.node;
    status = op.status;
    url = op.url || url;

    console.log(`⏳ Status: ${status} | Objects: ${op.objectCount || 0}`);

    if (status === 'COMPLETED' && url) {
      // 4. 下载 JSONL 结果并转为数组
      const resultRes = await fetch(url);
      const jsonlText = await resultRes.text();
      const allProducts = jsonlText
        .split('\n')
        .filter(line => line.trim())
        .map(line => JSON.parse(line).data.products.edges.map(e => e.node))
        .flat();

      console.log(`✅ Successfully fetched ${allProducts.length} products`);
      return allProducts;
    }

    await new Promise(r => setTimeout(r, 2000)); // 2s 间隔轮询
  }

  throw new Error(`Bulk operation failed with status: ${status}`);
}

// ? 执行全流程
async function getAllProducts() {
  try {
    const bulkId = await createBulkOperation();
    const products = await pollAndDownload(bulkId);
    return products;
  } catch (err) {
    console.error('? Bulk fetch failed:', err);
    throw err;
  }
}

// 使用示例
getAllProducts().then(products => {
  console.log('? Final product array length:', products.length);
  // → [ { id: "gid://shopify/Product/81226235887", title: "title", ... }, ... ]
});

⚠ 注意事项

  • ? 权限要求:确保 App 具备 read_products(及 read_product_images 等所需字段)访问权限;
  • ? API 版本:Bulk Operations 仅支持 2021-07 及更高版本的 Admin API;
  • ? 结果格式:返回的是 JSONL(换行分隔的 JSON),不是普通 JSON 数组,需按行解析;
  • 时效性:大任务可能需数秒至数分钟完成,切勿同步阻塞主流程;
  • ? 进阶建议:生产环境应添加重试机制、超时控制、错误日志及 S3 临时存储。

✅ 总结

放弃手工维护 REST 分页逻辑——它脆弱、难调试、不可扩展。Shopify Bulk Operations 是处理千级乃至百万级商品数据的事实标准。它将“获取全部商品”这一复杂操作简化为三步:声明查询 → 提交任务 → 下载结果。不仅代码更简洁健壮,还能显著提升稳定性与可维护性。立即迁移,告别 Link 正则匹配和无限递归陷阱。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

401

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

528

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

306

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

74

2025.09.10

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

506

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

240

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

246

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

5214

2023.08.17

俄罗斯搜索引擎Yandex最新官方入口网址
俄罗斯搜索引擎Yandex最新官方入口网址

Yandex官方入口网址是https://yandex.com;用户可通过网页端直连或移动端浏览器直接访问,无需登录即可使用搜索、图片、新闻、地图等全部基础功能,并支持多语种检索与静态资源精准筛选。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1

2025.12.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 8万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号