在抓取页面的过程中,在存储抓取到的页面内容的时候我需要先将页面压缩再存储,为了使用上的方便,采用了2.0下的GZipStream来进行压缩。
引用如下:
-
usingSystem.IO;
-
usingSystem.IO.Compression;
- ......
-
publicstaticbyte[]Compress(byte[]data)
- {
-
MemoryStreamstream=newMemoryStream();
-
GZipStreamgZipStream=newGZipStream(stream,CompressionMode.Compress);
- gZipStream.Write(data,0,data.Length);
-
-
returnstream.ToArray();
- }
-
publicstaticbyte[]Decompress(byte[]data)
- {
-
MemoryStreamstream=newMemoryStream();
-
GZipStreamgZipStream=newGZipStream(newMemoryStream(data),CompressionMode.Decompress);
-
byte[]bytes=newbyte[4096];
-
intn;
-
while((n=gZipStream.Read(bytes,0,bytes.Length))!=0)
- {
- stream.Write(bytes,0,n);
- }
-
returnstream.ToArray();
- }
上面的代码使用起来似乎是没有什么问题的(如果你不仔细做测试的话),但是当我对各种大小的页面进行测试后,发现如果压缩后byte[]长度<4K,那么问题出来了:没法解压,解压函数中Read返回结果总是0。闻一多先生曾经在演讲中说“郁闷啊,郁闷,这是某集团的郁闷,恰恰是微软的光荣(笔者注:我觉得应该属于微软bug)”。
我一度怀疑是不是Decompress函数中的bytes数组长度设置长了,后来把长度设置的很小,但是解压后还是那样,返回0。真想去和盖茨理论理论。
不过幸运的是,我测试发现了这个4K下限制,所以Google了下“GZipStream 4K”,哈哈,在国外的一论坛(http://www.dotnetmonster.com/Uwe/Forum.aspx/dotnet-framework/19787/Problem-with-the-GZipStream-class-and-small-streams)里面终于找到了答案:原来GZipStream存取数据的时候是以4K为块进行存取的。所以在压缩的时候,在返回stream.ToArray()前应该先gZipStream.Close()(也就是上面俺卖关子的那里),原因是GZipStream是在Dispose的时候把数据完全写入。你说冤吗?我明明已经Write了,竟然还要我再Close才可以。。。
继续郁闷......还不知道会出现什么更加有意思东西哦
分享到:
相关推荐
NULL 博文链接:https://dampce032.iteye.com/blog/1553646
在.Net Framework 2.0 中添加了System.IO.Compression 类来实现对文件/文件夹的压缩/解压(GZipStream方法),包括文档,代码,类文件
网上很少有用VB写的压缩文件的代码,但是,在网络传输,文件下载,打包发布等等方面的需求又比较多,所以,借鉴了一下C#代码的例子,改造成了VB用的类。另外加上了多层文件夹压缩解压。但是,因为时间有限,只是将...
主要为大家详细介绍了C#使用GZipStream实现文件的压缩与解压,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
主要介绍了C#使用GZipStream解压缩数据文件的方法,实例分析了C#中GZipStream方法的原理与使用技巧,需要的朋友可以参考下
支持同时压缩多文件,可以选择压缩后的文件放置的位置。
C++ 压缩解压缩库,VS2012版本。我只封装了解压缩库,如果需要可以自己封装下压缩的。代码齐全。
压缩及解压缩
主要是因为GZipStream的构造函数中第一个需要传入一个Stream,第二个是指定操作方式:压缩还是解压缩。 当时的疑问点主要有: 1.我传入的Stream是包含未压缩数据的Stream吗?2.我解压时是从一个压缩流中读取数据后再...
作为用法的示例, examples/streaming_commoncrawl_from_s3.py显示了如何使用gzipstream增量处理gzip压缩的Web存档(WARC)文件。 该文件的大小几乎为1 GB,是从2014-15 Common Crawl数据集中随机选择的,并托管在...
本dll提供了两种压缩方式,GZipStream和DeflateStream,在使用Webservice作为服务端的系统中,提高传输性能是比较关键的,而提高传输性能,对传输数据进行压缩是很重要的方法。 使用.Net自带压缩算法,压缩率很大...
比较好的网络分包组包处理 还使用了GZipStream的压缩 以及事件处理异常 包含网络传输 可供大家参考 visual 2010
c++ 调用 gzipstream 对数据进行加压或者解压
本文实例讲述了C#实现页面GZip或Deflate压缩的方法。分享给大家供大家参考。具体分析如下: .NET Framework里 System.IO.Compression下有两个可用于页面压缩的类,GZipStream和 DeflateStream. 在页面被传输之前,...
网络传输文件过程中,如果文件过大将会影响文件传送的效果和速度,如果将文件压缩之后再上传,不但可以...本实例通过asp.net web应用程序中实现了文件的在线压缩功能。 本实例主要使用了FileStream类和GZipStream类。
这个新名称空间提供了两个数据压缩类:DeflateStream和GZipStream。这两个压缩类都支持无损压缩和解压,其设计目的是为了处理流式数据的压缩和解压问题。压缩是减少数据大小的有效办法。例如,如果你有巨大量的数据...
代码如下:public static class Compressor { public static byte[] Compress(byte[] data) { using (MemoryStream output = new MemoryStream()) { using (GZipStream gzip = new GZipStream(output, ...