web-scraping 相关问题

Web抓取是从不易提供API或其他自动数据检索方法的网站中提取特定信息的过程。关于“如何开始使用刮擦”(例如使用Excel VBA)的问题应该*进行彻底的研究*,因为有许多功能代码示例可供使用。 Web抓取方法包括第三方应用程序,定制软件的开发,甚至是标准化方式的手动数据收集。

在多个结果的页面上刮取一个结果的信息

我想从多个结果的页面中搜索/解析特定结果的数据。例如,下面是一个页面的源html的剪辑,其中包含两个用于商业搜索的结果...

回答 1 投票 1

将主ID添加到孩子

我需要一些帮助。我是网络抓取的初学者。我正在一个有两个以上级别的网站上工作。我可以通过python获取所有表,但我无法关联master和child对象。我有......

回答 1 投票 -2

BeautifulSoup在html页面中不显示某些标签

如果我在这里访问此页面,我可以在检查时看到带有img标签的页面上的图像。但是当我尝试使用请求获取页面并使用BeautifulSoup解析时,我无法访问相同的图像。 ...

回答 2 投票 3

如何仅在python中使用请求模块来刮取数据

我实际上是尝试使用请求模块解析网站,并从中提取一些文本。在点击Cp中的网址后,网址:https://www.icsi.in/student/Members/MemberSearch.aspx

回答 1 投票 1

Scrapy 1.0+在CsvItemExporter子类中正确设置访问权限?

以前,访问CsvItemExporter的子类中的设置,我需要修改设置中指定的分隔符,可以使用:from scrapy.conf import settings但是...

回答 3 投票 6

无法修改selenium python绑定中的语言选项

我已经在python中创建了一个与selenium结合使用的脚本来从google play store中抓取不同的应用程序名称,当我执行我的脚本时它们都会通过。但是,结果是......

回答 4 投票 8

需要单击搜索按钮但没有按钮ID,类名

我是这个论坛的新手...请解决我的下面的问题:我想点击搜索按钮打开我可以搜索的新页面,但我无法点击搜索按钮,因为只有按钮名称在...

回答 1 投票 1

用于将数字提取到多个单元格的VBA代码

嗨,我很难将数字放到多个单元格中。我只是想将财务数据按顺序放入单元格中,但我不知道为什么它不起作用。 (该代码由另一个问题帖子给出......

回答 1 投票 0

Scrapy splash - 循环将所有值保存为仅一个项目

我正在使用Scrapy with splash来刮取基于Javascript的网站的价值。代码工作正常,蜘蛛刮擦所有有趣的值。问题是它将所有这些值保存到一个项目。 ...

回答 1 投票 0

如何通过无头chrome管理登录会话?

我需要制作刮刀:打开无头浏览器,转到网址,登录(有蒸汽oauth),填写一些输入,点击2按钮问题是无头浏览器的每个新实例清除我的登录...

回答 3 投票 13

BeautifulSoup在instagram html页面中查找

我有一个问题,找到与bs4的东西。我试图在html instagram页面中自动找到一些网址(并且知道我是一个python noob)我找不到自动搜索的方法...

回答 3 投票 1

有没有办法让硒以异步方式工作?

我的目标是在可汗学院尽可能多地删除个人资料链接。然后在每个配置文件中抓取一些特定数据,将它们写入CSV文件。我的问题很简单:......

回答 1 投票 4

从网页获取信息,并使用pandas和bs4写入.xls文件

我是Python编程的初学者。我在python中使用bs4模块练习网页抓取。我从网页中提取了一些字段,但是当我尝试将它们写入.xls文件时,....

回答 2 投票 2

如何在响应状态中检测到代码500时自动增加scrapy的DOWNLOAD_DELAY

我将编写数百个蜘蛛来抓取不同的静态网页,所以我选择Scrapy来帮助我完成我的工作。在工作期间,我发现大多数网站都很简单,不...

回答 1 投票 1

Python3 - web scraping zomato - 多个页面

我似乎无法为第1页以外的任何内容生成输出(一页有15家餐厅,这就是我得到的(只有15个输出)。看起来第一页的输出被第二页替换了......

回答 2 投票 2

刮网页的问题。 (PHP)

我是PHP的新手。我会为网页获得一些价值,我遇到的问题不能刮不到这个页面。这是什么特别的页面?我希望得到这个值我检查附加图片。我试过史努比......

回答 1 投票 -2

Instagram故事刮刀:这个过程是什么?

我正在尝试编写一个Web抓取python程序,用来登录用户的故事。我认为看看我是否能够正常工作会很有趣,因为4k Stogram只需花钱...

回答 1 投票 0

Puppeteer只关注按钮而不是单击按钮

尝试自动化点击网站页面上的按钮的过程,但它只关注按钮而不是点击它。我尝试过使用puppeteer click()功能和焦点+按输入功能无...

回答 2 投票 0

查询框架内的选择器

我正在用Puppeteer / JS构建一个简单的刮刀。我试图从页面中获取一个段落数组,html如[本图] [1]中所示。当我使用id(#iframeContent)时,我什么都没得到。 ...

回答 1 投票 1

Instagram刮痧:我如何保存故事?

我正在编写一个Instagram故事刮刀以获得乐趣,因为为什么不这样,我已经到了我需要下载故事文件但是图像/视频的来源不在......

回答 1 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.