如何使用Puppeteer解决和定位一个元素。

Question

屏幕刮擦问题

我正试图学习如何使用querySelector来定位一个元素。

在这个使用Puppeteer的小型NodeJS屏幕刮擦应用中，我想添加一个在Marketplace上列出的项目的 "位置"。

在我尝试添加这个新节点之前，脚本工作得很好，它会输出以下结果。

[
  {
    itemTitle: 'Iphone 7 Unlocked 32GB Gold',
    itemPrice: '$195',
    itemURL: 'https://facebook.com//marketplace/item/1094335687596621/',
    itemImg: 'https://scontent-mia3-1.xx.fbcdn.net/v/t1.0-0/c0.29.261.261a/p261x260/94707992_155656332613238_7356296336775315456_o.jpg?_nc_cat=108&_nc_sid=843cd7&_nc_oc=AQk4lXrzsGBkPFIWqx-sRgcDWuNd2kZlc1XJavKl0ZLJBcZZfaLFFUpZbSTTStFuT9U&_nc_ht=scontent-mia3-1.xx&oh=bc6f948b7c5930f1f81f85cbdf889ad5&oe=5ECEB781'
  },
  {
    itemTitle: 'iPhone X 64gb Unlocked Everything Works',
    itemPrice: '$180',
    itemURL: 'https://facebook.com//marketplace/item/2576925735968131/',
    itemImg: 'https://scontent-mia3-2.xx.fbcdn.net/v/t1.0-0/c0.83.750.750a/s261x260/84641729_222957132082738_3587337422137982976_o.jpg?_nc_cat=105&_nc_sid=843cd7&_nc_oc=AQmueUdOvX-NNTmxZOZp5gvyt-Szz9emk0it5HseboNA38BvQvKV0FT7mDwtqJo6z1g&_nc_ht=scontent-mia3-2.xx&oh=fbf3ffe04007566227eb76c608dd7fae&oe=5ECF5178'
  }
]

以上结果的选择器

这里是用来抓取这些结果的。

const itemTitle = item.querySelector('div > div > span > div > a > div > div > div > span > div > span > div[class="l9j0dhe7 stjgntxs ni8dbmo4"').innerText;
const itemPrice = item.querySelector('div > div > span > div > a > div > div > div > div > span[class="oi732d6d ik7dh3pa d2edcug0 qv66sw1b c1et5uql a8c37x1j s89635nw ew0dbk1b a5q79mjw g1cxx5fr lrazzd5p oo9gr5id"').innerText;
const itemURL = `https://facebook.com/${item.getAttribute('href')}`;
const itemImg = item.querySelector('div > div > span > div > a > div > div > div > div > div > div > img').getAttribute('src');             

所以现在我想添加物品的位置，

这里是我想抓取的SPAN。

所以我试着在Chrome开发工具中检查元素和COPY->XPATH，得到了这个。

//*[@id="u_0_c"]/div/div[1]/div/div/div/div/div[2]/div/div[2]/div/div/div[1]/div/span/div/a/div/div[2]/div[3]/span/div/span

当我把这个插入到现有的代码中... When I plugged that into the existing code...

var location = item.querySelectorAll('div[@id="u_0_c"]/div/div[1]/div/div/div/div/div[2]/div/div[2]/div/div/div[1]/div/span/div/a/div/div[2]/div[3]/span/div/span').innerText;

它就坏了。各种各样的错误。

我怎么做这个？

这段代码不是我写的。选择器看起来非常复杂。我使用CHrome的开发工具是否正确？我做错了什么？

整个源代码

const puppeteer = require('puppeteer');

const getItems = async searchTerm => {
    //{headless: false, defaultViewport: null} --> put this in launch() method below as parameter for developtment purposes --> opens up browser window
    const browser = await puppeteer.launch({
        headless: false,
        defaultViewport: null
    });
    const page = await browser.newPage();
 /* Go to page */
 await page.goto(`https://facebook.com/marketplace/search/?query=${encodeURI(searchTerm)}`);


    const itemList = await page.waitForSelector('div > div > span > div > a[tabindex="0"]')
        .then(() => page.evaluate(() => {
            const itemArray = [];
            const itemNodeList = document.querySelectorAll('div > div > span > div > a[tabindex="0"]');

            itemNodeList.forEach(item => {
                const itemTitle = item.querySelector('div > div > span > div > a > div > div > div > span > div > span > div[class="l9j0dhe7 stjgntxs ni8dbmo4"').innerText;
                const itemPrice = item.querySelector('div > div > span > div > a > div > div > div > div > span[class="oi732d6d ik7dh3pa d2edcug0 qv66sw1b c1et5uql a8c37x1j s89635nw ew0dbk1b a5q79mjw g1cxx5fr lrazzd5p oo9gr5id"').innerText;
                const itemURL = `https://facebook.com/${item.getAttribute('href')}`;
                const itemImg = item.querySelector('div > div > span > div > a > div > div > div > div > div > div > img').getAttribute('src');
                //var location = item.querySelectorAll('div[@id="u_0_c"]/div/div[1]/div/div/div/div/div[2]/div/div[2]/div/div/div[1]/div/span/div/a/div/div[2]/div[3]/span/div/span').innerText;
                itemArray.push({
                    itemTitle,
                    itemPrice,
                    itemURL,
                    itemImg
                });
            });
            return itemArray;
        }))
        .catch(() => console.log("Selector error."));

    return itemList;

}

const initScraper = async () => {
    const items = await getItems('iphone');
    items.sort(function (a, b) {
        return a.itemPrice - b.itemPrice
    });
    console.log(items);
}

initScraper();

谢谢你的寻找。如果有任何帮助，将不胜感激。

Answer 1

我想这就是你要找的东西。

• 有没有办法在Selenium WebDriver中使用JavaScript通过XPath获取元素？
• https:/developer.mozilla.orgen-USdocsWebXPathIntroduction_to_using_XPath_in_JavaScript。

基本上，如果你从chrome DevTools中获取XPATH，你不能只使用querySelector，你需要使用 document.evaluate 功能。

最好的！