博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Linux企业级项目实践之网络爬虫(11)——处理http请求头
阅读量:5115 次
发布时间:2019-06-13

本文共 2069 字,大约阅读时间需要 6 分钟。

http请求头,HTTP客户程序(例如浏览器),向服务器发送请求的时候必须指明请求类型(一般是GET或者POST)。如有必要,客户程序还可以选择发送其他的请求头。
HTTP客户程序(例如浏览器),向服务器发送请求的时候必须指明请求类型(一般是GET或者POST)。如有必要,客户程序还可以选择发送其他的请求头。大多数请求头并不是必需的,但Content-Length除外。对于POST请求来说Content-Length必须出现。 下面是一些最常见的请HTTP请求头概述 
Accept:浏览器可接受的MIME类型。
Accept-Charset:浏览器可接受的字符集。
Accept-Encoding:浏览器能够进行解码的数据编码方式,比如gzip。Servlet能够向支持gzip的浏览器返回经gzip编码的HTML页面。许多情形下这可以减少5到10倍的下载时间。
Accept-Language:浏览器所希望的语言种类,当服务器能够提供一种以上的语言版本时要用到。
Authorization:授权信息,通常出现在对服务器发送的WWW-Authenticate头的应答中。
Connection:表示是否需要持久连接。如果Servlet看到这里的值为“Keep-Alive”,或者看到请求使用的是HTTP 1.1(HTTP 1.1默认进行持久连接),它就可以利用持久连接的优点,当页面包含多个元素时(例如Applet,图片),显著地减少下载所需要的时间。要实现这一点,Servlet需要在应答中发送一个Content-Length头,最简单的实现方法是:先把内容写入ByteArrayOutputStream,然后在正式写出内容之前计算它的大小。
Content-Length:表示请求消息正文的长度。
Cookie:这是最重要的请求头信息之一
From:请求发送者的email地址,由一些特殊的Web客户程序使用,浏览器不会用到它。
Host:初始URL中的主机和端口。
If-Modified-Since:只有当所请求的内容在指定的日期之后又经过修改才返回它,否则返回304“Not Modified”应答。
Pragma:指定“no-cache”值表示服务器必须返回一个刷新后的文档,即使它是代理服务器而且已经有了页面的本地拷贝。
Referer:包含一个URL,用户从该URL代表的页面出发访问当前请求的页面。
User-Agent:浏览器类型,如果Servlet返回的内容与浏览器类型有关则该值非常有用。

UA-Pixels,UA-Color,UA-OS,UA-CPU:由某些版本的IE浏览器所发送的非标准的请求头,表示屏幕大小、颜色深度、操作系统和CPU类型。

int send_request(int fd, void *arg){    int need, begin, n;    char request[1024] = {0};    Url *url = (Url *)arg;    sprintf(request, "GET /%s HTTP/1.0\r\n"            "Host: %s\r\n"            "Accept: */*\r\n"            "Connection: Keep-Alive\r\n"            "User-Agent: Mozilla/5.0 (compatible; Qteqpidspider/1.0;)\r\n"            "Referer: %s\r\n\r\n", url->path, url->domain, url->domain);    need = strlen(request);    begin = 0;    while(need) {        n = write(fd, request+begin, need);        if (n <= 0) {            if (errno == EAGAIN) { //write buffer full, delay retry                usleep(1000);                continue;            }            SPIDER_LOG(SPIDER_LEVEL_WARN, "Thread %lu send ERROR: %d", pthread_self(), n);            free_url(url);            close(fd);            return -1;        }        begin += n;        need -= n;    }    return 0;}

转载于:https://www.cnblogs.com/new0801/p/6177000.html

你可能感兴趣的文章
啊金学习javascript系列一之javascript整体印象
查看>>
[Go] Returning Multiple Values from a Function in Go
查看>>
[Polymer] Introduction
查看>>
Zabbix实战-简易教程--拓扑图(Maps)
查看>>
开启html元素的编辑模式contenteditable="true"
查看>>
WIKI 配置参数
查看>>
Longest Valid Parentheses leetcode java
查看>>
BZOJ2298: [HAOI2011]problem a(带权区间覆盖DP)
查看>>
洛谷P4593 [TJOI2018]教科书般的亵渎(拉格朗日插值)
查看>>
splay详解(三)
查看>>
12:变幻的矩阵
查看>>
尝试让代码更好一点
查看>>
关于VS2005安装项目制作的三个参考文章链接
查看>>
Window系统 安装TFLearn
查看>>
H5 操作class 类样式
查看>>
java中十进制转二进制转换函数
查看>>
java单例模式使用及注意事项
查看>>
【BZOJ3328】PYXFIB 数论+矩阵乘法
查看>>
oracle中的exists 和not exists 用法详解
查看>>
vijos1364:Likecloud-吃吃吃
查看>>