- 浏览: 994578 次
- 性别:
- 来自: 广州
文章分类
- 全部博客 (394)
- OSGI (14)
- 多线程 (10)
- 数据库 (30)
- J2ME (1)
- JAVA基础知识 (46)
- 引用包 (1)
- 设计模式 (7)
- 工作流 (2)
- Ubuntu (7)
- 搜索引擎 (6)
- QT (2)
- Ubuntu下编程 (1)
- 小程序 (2)
- UML (1)
- Servlet (10)
- spring (16)
- IM (12)
- 文档视频转为flash格式在线播放 (19)
- Maven (8)
- 远程调用 (2)
- PHPRPC (1)
- EXTJS学习 (2)
- Hibernate (16)
- 技术文章 (38)
- flex (5)
- 海量数据处理 (5)
- FTP (8)
- JS (10)
- Struts (1)
- hibernate search (13)
- JQuery (2)
- EMail (3)
- 算法 (4)
- SVN (7)
- JFreeChart (4)
- 面试 (4)
- 正规表达式 (2)
- 数据库性能优化 (10)
- JVM (6)
- Http Session Cookie (7)
- 网络 (12)
- Hadoop (2)
- 性能 (1)
最新评论
-
hy1235366:
能够随便也发一下,你退火算法程序使用的DistanceMatr ...
模拟退火算法总结(含例子)(转) -
梅强强:
感谢分享。。帮大忙了
swftools转换文件时线程堵塞问题的解决方法 -
wenlongsust:
openoffice和文件不在同一个服务器上,用过吗?
[JODConverter]word转pdf心得分享(转) -
2047699523:
如何在java Web项目中开发WebService接口htt ...
利用Java编写简单的WebService实例 -
abingpow:
唉,看起来好像很详细很不错的样子,可惜不是篇面向初学者的文章, ...
Spring与OSGi的整合(二)(转)
有时需要InputStreamReader(InputStream in, Charset cs)这个构造来处理字符流。然而Charset不一定知道。这个时候就需要检测编码方式了。jchardet是firefox使用的字节流编码检测算法的java开源实现,协议为MPL(Mozilla Public License),对商业友好。下载源代码后发现示例并不怎么好使用,于是封装了一下。下面就封装类和使用Demo。
CharsetDetector 这个封装了内部实现,用户直接new这个类就可以检测字节流编码
package cn.xddai.chardet; import java.io.BufferedInputStream; import java.io.IOException; import java.io.InputStream; import org.mozilla.intl.chardet.nsDetector; import org.mozilla.intl.chardet.nsICharsetDetectionObserver; import org.mozilla.intl.chardet.nsPSMDetector; /** * * @author xddai */ public class CharsetDetector { private boolean found = false; private String result; private int lang; public String[] detectChineseCharset(InputStream in) throws IOException { lang = nsPSMDetector.CHINESE; String[] prob; // Initalize the nsDetector() ; nsDetector det = new nsDetector(lang); // Set an observer... // The Notify() will be called when a matching charset is found. det.Init(new nsICharsetDetectionObserver() { public void Notify(String charset) { found = true; result = charset; } }); BufferedInputStream imp = new BufferedInputStream(in); byte[] buf = new byte[1024]; int len; boolean isAscii = true; while ((len = imp.read(buf, 0, buf.length)) != -1) { // Check if the stream is only ascii. if (isAscii) isAscii = det.isAscii(buf, len); // DoIt if non-ascii and not done yet. if (!isAscii) { if (det.DoIt(buf, len, false)) break; } } imp.close(); in.close(); det.DataEnd(); if (isAscii) { found = true; prob = new String[] { "ASCII" }; } else if (found) { prob = new String[] { result }; } else { prob = det.getProbableCharsets(); } return prob; } public String[] detectAllCharset(InputStream in) throws IOException { try { lang = nsPSMDetector.ALL; return detectChineseCharset(in); } catch (IOException e) { throw e; } } }
Demo:这个演示CharsetDetector用法示例
package cn.xddai.chardet; import java.io.IOException; import java.net.URL; /** * * @author xddai */ public class Demo { public static void main(String[] args)throws IOException { CharsetDetector charDect = new CharsetDetector(); URL url = new URL("http://www.qq.com/"); String[] probableSet = charDect.detectChineseCharset(url.openStream()); for (String charset : probableSet) { System.out.println(charset); } } }封装后的jar包下载地址http://codeinplatform.googlecode.com/files/CharsetDetector.jar
最后,感谢Mozilla大神为开源做的贡献。
- CharsetDetector.jar (59.9 KB)
- 下载次数: 42
发表评论
-
SWFTOOLS PDF2SWF 参数详解(转)
2012-01-08 16:35 2284SWFTools提供了一系列将各种文件转成swf的工具: ... -
swftools安装
2010-12-06 20:35 1950安装swftools工具时,在windows平台下是很简单的事 ... -
swftools转换文件时线程堵塞问题的解决方法
2010-11-26 09:55 5172在使用swftools工具作转换时,最需要注意的是对转换 ... -
pdf2swf fails to transform with the default options when the pdf are too large,
2010-11-25 14:10 4796if the pdf contains too many im ... -
[JODConverter]word转pdf心得分享(转)
2010-11-22 10:12 37614官方网站: http://www.artofsolving. ... -
flash 安全沙箱冲突
2010-10-28 20:46 7053下载flexpaper源码修改后做成swf阅读器,要加入待阅读 ... -
LInux下如何安装ffmpeg(转)
2010-10-11 13:55 1918终于装上了,把过程记录一下 首先要安装各种解码器 ... -
Flex Paper 源码编译
2010-10-02 09:05 8646FlexPaper是一个开源轻量级的在浏览器上显示各种文档的组 ... -
判定文件编码(文本流编码)的方法(转)
2010-09-25 12:53 1673在程序中,文本文件经常用来存储标准的ASCII码文本,比如英文 ... -
jodconverter纯文本文件转为pdf时中文问题解决方案
2010-09-25 12:31 4926jodconverter转换ms文件都 ... -
swftools使用注意
2010-09-15 10:00 2221swftools处理堵塞问题,请看文章:Process的wai ... -
mencoder环境搭建
2010-09-06 17:33 15161 到http://www.mplayerhq.hu/desi ... -
Mencoder常用视频转换参数(转)
2010-09-06 17:14 2864参数详解:1、-ofps 15 :帧速率15fps ... -
Mencoder常用视频转换参数(转)
2010-09-06 17:13 2109参数详解: 1、-ofps 15 ... -
利用ffmpeg+mencoder视频转换的总结(转)
2010-09-06 17:00 2744Youtube的成功,使得 ... -
ffmpeg+mencoder环境搭建和视频处理总结(转)
2010-09-06 16:54 4292ffmpeg+mencoder几乎可以完成目前基于web的播客 ... -
Mencoder转换flv参数详解(转)
2010-09-06 16:24 2555Mencoder简介: Mencoder是Mpl ... -
FLV视频转换的利器 - ffmpeg.exe和mencoder(转)
2010-09-06 15:07 6286文章1: 大家应该都知道Youtobe、Google ...
相关推荐
NULL 博文链接:https://zhifeiji512.iteye.com/blog/1221068
jchardet-1.1 字符编码识别jchardet-1.1 字符编码识jchardet是mozilla自动字Java字符串(及字符)类以Unicode编码保存数据。当处理来自外部的国际性文本时,我们需要提供关于这些文本的编码,以便准确地将它们转换为...
jchardet-1.1 字符编码识别jchardet-1.1 字符编码识jchardet是mozilla自动字Java字符串(及字符)类以Unicode编码保存数据。当处理来自外部的国际性文本时,我们需要提供关于这些文本的编码,以便准确地将它们转换为...
jchardet-1.0.jar java判断文件字符编码的类库!
一个 mozilla 的 编码检测 java 包.
jchardet-1.1.zip jchardet-1.1.zip 包含源码及jar。 jchardet-1.1.zip
鱼泽弋海 封装的Jchardet类以及chardet.jar,感觉是网上找到的例子里写的很好的。 Jchardet,会返回一个最有可能的charset,和一组其他可能,正确率还行,但在数据很少的情况下,出错率会变高,可以用RadioGroup...
作用:检测文本文件的编码方式,例如GB2312、UTF-8、Shift-jis、ISO-8859-1等等。相关讨论可以参考http://blog.csdn.net/wingtrace/archive/2007/03/17/1532262.aspx 。 用法:请参考GenericCharsetDetector类的几...
一个用来检查文件编码字符集的工具,使用jchardet作为编码检测的组件!
官方离线安装包,测试可用。使用rpm -ivh [rpm完整包名] 进行安装
使用cpdetector 三方库读取文件编码。 jar包和事例代码都有。
上面代码中的detector不仅可以用于探测文件的编码,也可以探测任意输入的文本流的编码,方法是调用其重载形式: Java代码 charset=detector.detectCodepage(待测的文本输入流,测量该流所需的读入字节数);
官方离线安装包,测试可用。使用rpm -ivh [rpm完整包名] 进行安装
爬虫中经常遇到采集网页乱码问题,此时程序根据meta、header无法识别情况下,下载需要的包 antlr.jar、cpdetector-1.0.10.jar、jchardet-1.0.jar