在电商领域,按图搜索商品(类似于淘宝的拍立淘)是一种非常实用的功能,尤其适合用户通过图片快速查找相似商品。1688 开放平台提供了按图搜索商品的 API 接口,允许开发者通过图片获取相关的商品信息。本文将详细介绍如何使用 Java 爬虫技术调用 1688 的按图搜索 API 接口,并解析返回的数据。
一、前期准备
(一)Java 开发环境
确保已安装 Java 开发环境,推荐使用 JDK 1.8 或更高版本。
(二)依赖管理
使用 Maven 或 Gradle 管理项目依赖,主要包括以下库:
- Apache HttpClient:用于发送 HTTP 请求。
- Jackson:用于解析 JSON 数据。
以下是 Maven 项目的 pom.xml 依赖配置示例:
<dependencies>
<dependency>
<groupId>org.apache.httpcomponents</groupId>
<artifactId>httpclient</artifactId>
<version>4.5.13</version>
</dependency>
<dependency>
<groupId>com.fasterxml.jackson.core</groupId>
<artifactId>jackson-databind</artifactId>
<version>2.10.0</version>
</dependency>
</dependencies>
二、构建 API 请求
根据 1688 开放平台的 API 文档,按图搜索商品的接口地址为 https://api-gw.onebound.cn/1688/item_search_img。以下是请求参数的说明:
key:AppKey。secret:AppSecret。image_url:图片的 URL,需要是可访问的图片地址。page:页码(默认为 1)。page_size:每页显示的商品数量(默认为 40)。sort:排序方式(如price按价格排序)。
三、Java 爬虫实现
(一)生成签名
1688 API 接口需要对请求参数进行签名验证。以下是一个生成签名的 Java 方法示例:
import java.util.TreeMap;
public class ApiUtil {
public static String generateSign(TreeMap<String, String> params, String appSecret) {
StringBuilder sb = new StringBuilder();
for (Map.Entry<String, String> entry : params.entrySet()) {
sb.append(entry.getKey()).append(entry.getValue());
}
sb.append(appSecret);
return md5(sb.toString()).toUpperCase();
}
private static String md5(String str) {
try {
java.security.MessageDigest md = java.security.MessageDigest.getInstance("MD5");
byte[] array = md.digest(str.getBytes());
StringBuilder sb = new StringBuilder();
for (byte b : array) {
sb.append(String.format("%02x", b));
}
return sb.toString();
} catch (Exception e) {
throw new RuntimeException(e);
}
}
}
(二)发送 HTTP 请求
使用 Apache HttpClient 发送 GET 请求,获取 API 返回的 JSON 数据:
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;
import java.util.Map;
public class AlibabaImageSearchCrawler {
private static final String APP_KEY = "your_app_key";
private static final String APP_SECRET = "your_app_secret";
public static void main(String[] args) {
String imageUrl = "https://example.com/image.jpg"; // 图片 URL
int page = 1;
int pageSize = 40;
TreeMap<String, String> params = new TreeMap<>();
params.put("key", APP_KEY);
params.put("image_url", imageUrl);
params.put("page", String.valueOf(page));
params.put("page_size", String.valueOf(pageSize));
params.put("sort", "price");
String sign = ApiUtil.generateSign(params, APP_SECRET);
params.put("sign", sign);
StringBuilder urlBuilder = new StringBuilder("https://api-gw.onebound.cn/1688/item_search_img?");
for (Map.Entry<String, String> entry : params.entrySet()) {
urlBuilder.append(entry.getKey()).append("=").append(entry.getValue()).append("&");
}
String url = urlBuilder.toString().substring(0, urlBuilder.length() - 1);
try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
HttpGet request = new HttpGet(url);
String jsonResponse = EntityUtils.toString(httpClient.execute(request).getEntity());
System.out.println("API Response: " + jsonResponse);
} catch (Exception e) {
e.printStackTrace();
}
}
}
(三)解析 API 返回的 JSON 数据
假设 API 返回的 JSON 数据结构如下:
{
"code": 200,
"message": "success",
"data": {
"products": [
{
"id": "12345",
"name": "商品名称",
"price": "100.00",
"description": "商品描述",
"imageUrl": "https://example.com/image.jpg",
"link": "https://1688.com/product/12345"
}
]
}
}
可以使用 Jackson 库解析 JSON 数据:
import com.fasterxml.jackson.databind.ObjectMapper;
import java.io.IOException;
import java.util.List;
public class JsonParser {
public static void main(String[] args) {
String jsonResponse = "{"
+ ""code": 200,"
+ ""message": "success","
+ ""data": {"
+ " "products": ["
+ " {"
+ " "id": "12345","
+ " "name": "商品名称","
+ " "price": "100.00","
+ " "description": "商品描述","
+ " "imageUrl": "https://example.com/image.jpg","
+ " "link": "https://1688.com/product/12345""
+ " }"
+ " ]"
+ "}"
+ "}";
ObjectMapper objectMapper = new ObjectMapper();
try {
ApiResponse response = objectMapper.readValue(jsonResponse, ApiResponse.class);
if (response.getCode() == 200) {
List<Product> products = response.getData().getProducts();
for (Product product : products) {
System.out.println("商品ID: " + product.getId());
System.out.println("商品名称: " + product.getName());
System.out.println("商品价格: " + product.getPrice());
System.out.println("商品描述: " + product.getDescription());
System.out.println("商品图片URL: " + product.getImageUrl());
System.out.println("商品链接: " + product.getLink());
System.out.println("----------");
}
} else {
System.out.println("API请求失败: " + response.getMessage());
}
} catch (IOException e) {
e.printStackTrace();
}
}
static class ApiResponse {
private int code;
private String message;
private Data data;
// Getters and Setters
public int getCode() { return code; }
public void setCode(int code) { this.code = code; }
public String getMessage() { return message; }
public void setMessage(String message) { this.message = message; }
public Data getData() { return data; }
public void setData(Data data) { this.data = data; }
static class Data {
private List<Product> products;
public List<Product> getProducts() { return products; }
public void setProducts(List<Product> products) { this.products = products; }
}
static class Product {
private String id;
private String name;
private String price;
private String description;
private String imageUrl;
private String link;
// Getters and Setters
public String getId() { return id; }
public void setId(String id) { this.id = id; }
public String getName() { return name; }
public void setName(String name) { this.name = name; }
public String getPrice() { return price; }
public void setPrice(String price) { this.price = price; }
public String getDescription() { return description; }
public void setDescription(String description) { this.description = description; }
public String getImageUrl() { return imageUrl; }
public void setImageUrl(String imageUrl) { this.imageUrl = imageUrl; }
public String getLink() { return link; }
public void setLink(String link) { this.link = link; }
}
}
}
四、注意事项
(一)遵守法律法规
在进行爬虫操作时,必须严格遵守相关法律法规,尊重 1688 开放平台的使用协议。
(二)合理设置请求频率
避免过高的请求频率导致对方服务器压力过大,可能触发反爬机制。建议合理设置请求间隔。
(三)数据安全
保护好 API 凭证,避免泄露。
(四)错误处理
在实际开发中,需要对 API 返回的错误码进行处理:
- 401 Unauthorized:检查 API 凭证是否正确。
- 403 Forbidden:检查是否触发了反爬机制。
- 429 Too Many Requests:降低请求频率。
五、总结
本文通过 Java 爬虫技术实现了调用 1688 按图搜索商品的 API 接口,并解析了返回的 JSON 数据。通过这种方式,开发者可以快速获取与图片相似的商品信息,为用户提供更加便捷的购物体验。希望本文能为开发者提供一个实用的参考,帮助大家更好地利用 1688 开放平台的 API 接口。