饿了么是一个集在线外卖、新零售、即时配送和餐饮供应链等业务的一个平台,也是我们日常中使用比较多的一个平台。每次点外卖的时候,那么多的商家,我们要比对价格、看评价,看看到底怎么点餐比较划算,这是一个Go语言的爬虫程序,所以今天,我就使用net库来实现对饿了么内容的采集,方便我们每次对所需要的服务进行对比。一起来看看吧!
```go
package main
import (
"fmt"
"io/ioutil"
"net/http"
"net/url"
"os"
"strings"
)
func main() {
// 创建一个URL对象来表示要爬取的网站
urlStr := "https://www.ele.me/"
url, _ := url.Parse(urlStr)
// 创建一个ProxyTransport对象来使用代理服务器
proxyURL, _ := url.Parse("http://www.duoip.cn:8000")
proxyTransport := &http.Transport{
Proxy: func(req *http.Request) (*url.URL, error) {
return proxyURL, nil
},
}
// 创建一个HttpClient对象来发送HTTP请求
client := &http.Client{
Transport: proxyTransport,
}
// 发送一个GET请求来获取网页的内容
resp, err := client.Get(urlStr)
if err != nil {
fmt.Println(err)
return
}
defer resp.Body.Close()
// 读取网页的内容
body, err := ioutil.ReadAll(resp.Body)
if err != nil {
fmt.Println(err)
return
}
// 将网页的内容打印出来
fmt.Println(string(body))
}
```
以上就是今天要给大家分享的内容,其实都非常简单,主要是代码的可用性上我进行了一些小的优化,大家在使用的时候一定不要生搬硬抄,结合自己实际的需求,进行修改后再用。希望能对大家在日常生活中起到一些帮助。
标签:搞定,http,err,url,fmt,Go,return,NET,resp From: https://blog.51cto.com/u_14448891/8150013