这是合肥工业大学宣城校区 2023 年《计算机网络课程设计》项目。题目如下:
- 熟悉开发工具 (Visual Studio、C/C 、Java 等) 的基本操作;
- 掌握 http 协议的工作原理;
- 掌握多线程编程;
- 对于 Socket 编程建立初步的概念。
- 掌握对文件的网络传输操作;
- 不限平台,熟悉 Socket API 主要函数的使用;
- 实现一个简单的基于 http 协议的 WEB 服务器;
- 实现对服务器运行状态的监控;
请注意:
- 此处 Web 服务器,只是对 HTTP 请求予以应答;IE 浏览器访问本服务器,请求当前服务器中的某静态网页文件(html 或 htm 文件等),服务器端查询服务器端相应的路径下该网页是否存在,如存在,则利用当前的 TCP 连接传递该网页文件,如果不存在,则返回 404 错误提示。
- 不涉及动态网页的解析,如
asp
、aspx
、php
、jsp
等;- 应考虑服务器的多客户端访问问题,参见:多线程机制、异步的套接字I/O机制或套接字链表等等;
- 该服务器的工作模式是什么?
- 如何对其进行测试,还有哪些可以完善的功能?
- 有什么办法可以提高它的性能?
本设计已在课程设计验收中获评“优秀”。
课程设计报告可以在 此处 下载。有问题可以发 issue。
- 基于 Tokio 实现 TCP 连接的异步并发处理
- 手动解析 HTTP 请求,手动构造 HTTP 响应
- 支持 HTTP 的 GET、HEAD 请求,部分地支持 OPTIONS 请求(不支持CORS的预检请求)
- 支持 HTTP 1.1
- 支持 HTTP 压缩,支持的编码有 Brotli, Gzip, Deflate
- 通过 MIME 表支持常见的 Web 格式
- 支持简单的命令行控制
- 支持通过配置文件修改服务器参数
- 通过 log4rs 支持简单的日志系统,支持记录到文件或标准输出
- 通过一个 FIFO 的文件缓存减少磁盘 I/O 的次数
- 支持文件列表模式(课程设计加分点)
- 支持超链接跳转
- 文件列表自动排序
- 表格排版,清晰易读
- 状态码页面动态生成
- 简单的 PHP 页面支持(课程设计主要加分点)
各种请求方法的测试:
- GET:使用浏览器测试即可
- HEAD
eslzzyl:~$ curl --head 127.0.0.1:7878/ -i HTTP/1.1 200 OK Content-Length: 858 Date: Mon, 19 Jun 2023 09:38:16 0000 Server: eslzzyl-webserver
- OPTIONS
eslzzyl:~$ curl -X OPTIONS 127.0.0.1:7878 -i HTTP/1.1 204 No Content Content-Length: 0 Date: Mon, 19 Jun 2023 09:22:51 0000 Server: eslzzyl-webserver Allow: GET, HEAD, OPTIONS
安装最新的 Rust stable 工具链:此处。我在编写代码时使用的版本是1.69.0
。
Clone 本仓库,然后执行
cargo build --release
在构建之前,如果需要,可以修改 crates.io 的索引以加快依赖下载。见此处。
-
安装 PHP 环境。在 Ubuntu 下,执行
sudo apt install php
- 在其他系统(如 Windows)中,可能需要手动配置环境变量。
- PHP 不是必要的,但是没有 PHP 环境则无法使用 PHP 扩展,服务器将返回 500 状态码。
-
启动服务器
cargo run --release
服务器默认在 127.0.0.1
监听,默认的端口是 7878
,但可以在配置文件 files/config.toml
中更改。
如果要在云服务器上运行:
- 将
files/config.toml
中的local
项改为false
- 在云服务器防火墙或安全组管理中放通指定的 TCP 入站端口(默认端口为 7878)
- 这个玩具服务器很不安全,特别是 PHP 支持的部分,没有任何安全防护措施。一定不要让它在公网环境长期运行,否则你的服务器可能会被入侵!
程序启动后,打开浏览器,访问 127.0.0.1:7878
。如果运行在公网,则将 IP 替换为对应的公网 IP。
默认的 Web 根文件夹是 ./files/html/
,但是可以在配置文件中修改。
- 浏览器尝试请求
/
时,服务器将返回根文件夹下的index.html
。 - 浏览器尝试请求文件夹时,服务器将返回该文件夹下的文件列表。
程序在 Ubuntu 22.04、Arch Linux、Windows 11 平台测试过,可以正常运行。
目前的性能测试结果都是在无优化的 Debug 模式下得出的。
可能我代码有点问题,在高并发时会一次性打开大量 socket 连接,占用很多 socket file discriptor,一旦超过操作系统设定的 nlimit
限制(默认为 1024),就会 panic。
cargo run --release
启动之后,查找进程PID
ps -e | grep webserver
然后暂时提升限制
sudo prlimit --pid [PID] --nofile=32768:32768
之后再进行测试。
-
本机:
eslzzyl:~/W/c/webbench-1.5 $ ./webbench -c 10000 -t 10 --get --http11 http://127.0.0.1:7878/ Webbench - Simple Web Benchmark 1.5 Copyright (c) Radim Kolar 1997-2004, GPL Open Source Software. Benchmarking: GET http://127.0.0.1:7878/ (using HTTP/1.1) 10000 clients, running 10 sec. Speed=2991498 pages/min, 44423480 bytes/sec. Requests: 498583 susceed, 0 failed.
测试 20000 并发时,端口号不够用了。肯定是我代码的问题,正常不应该是这样的。总之 10000 并发肯定是有的。
测试机器:AMD Ryzen 5 4600U, 16G DDR4, Ubuntu 22.04
-
远程服务器:
eslzzyl:~/W/c/webbench-1.5 $ ./webbench -c 10000 -t 10 --get --http11 http://xx.xx.xx.xx:7878/ Webbench - Simple Web Benchmark 1.5 Copyright (c) Radim Kolar 1997-2004, GPL Open Source Software. Benchmarking: GET http://xx.xx.xx.xx:7878/ (using HTTP/1.1) 10000 clients, running 10 sec. Speed=6864 pages/min, 101930 bytes/sec. Requests: 1144 susceed, 0 failed.
eslzzyl:~/W/c/webbench-1.5 $ ./webbench -c 12000 -t 10 --get --http11 http://xx.xx.xx.xx:7878/ Webbench - Simple Web Benchmark 1.5 Copyright (c) Radim Kolar 1997-2004, GPL Open Source Software. Benchmarking: GET http://xx.xx.xx.xx:7878/ (using HTTP/1.1) 12000 clients, running 10 sec. Speed=5430 pages/min, 81993 bytes/sec. Requests: 905 susceed, 0 failed.
测试 20000 并发时同样出现问题。
测试机器:腾讯云上海 1核 2G 1M, Ubuntu 22.04
- 《HTTP权威指南》 David Gourley 等著 (2002),陈涓 等译(人民邮电出版社 2012 年版)
- https://developer.mozilla.org/zh-CN/docs/Web/HTTP
- RFC 2616 Hypertext Transfer Protocol -- HTTP/1.1
- RFC 7230 - 7235
- RFC 9110 (即现行的 HTTP Specification)
- Tokio 学习笔记
特别鸣谢:ChatGPT,在本项目的编写过程中提供了极大的帮助。
由于课程设计已经结束,因此这里记录的一些内容可能不会很快实现/修复。
实现 LRU 缓存:已放弃。因为不得不用unsafe
,而unsafe
结构在线程之间传递极难实现。- 看一看 PHP 的安全性方面有没有能挖掘的地方
找个机会精简一下依赖,目前依赖快 100 个,编译太慢了,很多依赖只是用到一个简单的功能,没必要用库。尤其是 Config
的读取那部分,serde
的依赖有很多
route
找不到index.html
时,应当返回根路径,以便Response
列出根文件夹下的文件列表。目前是默认index.html
一定存在了,会 panic。- 文件缓存应当同时保存文件的修改时间,再次请求同一缓存块时比对时间,如果修改时间发生了变化,说明文件在缓存期间发生了变化,此时不应该返回缓存中的结果,而是应该重新读取文件。文件列表模式可以存储文件夹的修改时间。
- 【严重问题】【存疑】 在低速网络上传送稍大的二进制文件会被异常中断
不能让 URI 退到 wwwroot 之外,如 www.example.com/../
。对于这种请求,应该给一个拒绝访问的 Response。
压缩已经实现,但 brotli 非常慢,因此默认启用 gzip,无论浏览器是否支持 brotli。该逻辑可以在 response.rs
文件的 decide_encoding
函数中更改。