`
sslaowan
  • 浏览: 373848 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

UTF-8 字符处理在 Web 开发中的应用

阅读更多

http://www.ibm.com/developerworks/cn/web/wa-lo-utf8/index.html?ca=drs

殷 健, 软件工程师,IBM CSDL

 

2006 年 7 月 27 日

Web 应用要适应多语言的需求。不同国家的用户应该可以输入本国语言的字符, 同时 Web 应用又应该可以根据不同的区域设置来用多国语言显示页面。 当前,不同的语言有不同的编码方式来显示对应的语言信息,例如中文可以用 GB2312 编码来显示,日文可以用 Shift-JIS 编码来显示。但 UTF-8 编码方式几乎可以包括了所有的语言字符。用 UTF-8 编码来处理 Web 应用信息的输入和显示可以使不同 Web 应用之间的信息交互标准化,并且可以简化应用的开发过程。

UTF-8 编码介绍

UTF-8 编码是一种被广泛应用的编码,这种编码致力于把全球的语言纳入一个统一的编码,目前已经将几种亚洲语言纳入。UTF 代表 UCS Transformation Format.

UTF-8 采用变长度字节来表示字符,理论上最多可以到 6 个字节长度。UTF-8 编码兼容了 ASC II(0-127), 也就是说 UTF-8 对于 ASC II 字符的编码是和 ASC II 一样的。对于超过一个字节长度的字符,才用以下编码规范:

左边第一个字节1的个数表示这个字符编码字节的位数,例如两位字节字符编码样式为为:110xxxxx 10xxxxxx; 三位字节字符的编码样式为:1110xxxx 10xxxxxx 10xxxxxx.;以此类推,六位字节字符的编码样式为:1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx。 xxx 的值由字符编码的二进制表示的位填入。只用最短的那个足够表达一个字符编码的多字节串。例如:

Unicode 字符: 00 A9(版权符号) = 1010 1001, UTF-8 编码为:11000010 10101001 = 0x C2 0xA9; 字符 22 60 (不等于符号) = 0010 0010 0110 0000, UTF-8 编码为:11100010 10001001 10100000 = 0xE2 0x89 0xA0

HTTP 通讯协议

HTTP 请求

在 HTTP 通讯中,在客户端发出的请求报文中,首先设置的是方法。方法是用来告诉服务器客户端发起的动作请求。在请求的报文头部,客户端还可以同时发送附加的信息,比如客户端使用的浏览器和客户端可以解释的内容类型等。这些信息可以被服务器端应用程序使用以生成响应。下面是一个 HTTP 请求消息的示例:


图1. HTTP 请求消息头
GET /intro.html HTTP/1.0 User-Agent: Mozilla/4.0 (compatible; MSIE 4.0; Windows 95) Accept: image/gif, image/jpeg, text/*, */* Accept-language : zh Accept-Charset: iso-8859-1


这个请求通过 GET 方法来获取资源 /intro.htm。User-Agent 提供了客户端浏览器的信息,同时 Accept 提供了客户端可以接受的媒体类型。Accep-language 指出了客户端浏览器的首选语言, Accept-Charset 提供了浏览器的首选字符集,服务器端程序能够根据客户端的要求来生成需要的响应。 用户可以通过配置浏览器来设置首选语言。以 IE 为示例如下:


图2. 浏览器首选语言设置
图2. 浏览器首选语言设置 

当浏览器发出请求后,可以通过以下代码来读取客户端浏览器的首选语言和国家代码。


图3. 服务器端 Servlet 读取浏览器首选国家和语言
protected void insertproc(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException{ Locale reqLocal = req.getLocale(); System.out.println("The country is :" + reqLocal.getCountry()); System.out.println("The language is :" + reqLocal.getLanguage());


服务器端的输出结果为:


图4. 服务器端 Servlet 读取浏览器首选国家和语言结果
[06-3-10 14:56:32:516 CST] 6ce078f9 SystemOut O The country is :CN [06-3-10 14:56:32:516 CST] 6ce078f9 SystemOut O The language is :zh


HTTP 响应

当服务器端收到请求后,会处理请求并发回应答。服务器通过应答消息的头部来指明诸如服务器软件和相应的内容类型等信息。以下是一个应答消息头的示例:


图5.HTTP 应答消息头
Date: Saturday, 23-May-98 03:25:12 GMT Server: JavaWebServer/1.1.1 MIME-version: 1.0 Content-type: text/html; charset=UTF-8 Content-length: 1029 Last-modified: Thursday, 7-May-98 12:15:35 GMT


Content-type 表明了应答消息的 MIME 类型和应答消息体的字符集,浏览器会用相应的字符集来显示消息内容。例如,在以上示例中字符集是 UTF-8,浏览器会用 UTF-8 编码来解析和现实返回的消息体。同时页面输入也会被用 UTF-8 编码。





回页首


Web 页面显示编码

可以通过以下几种方式来设置内容类型。

在 HTML 中设置页面的编码方式

如果被访问的是一个静态的 HTML 页面。可以通过以下方式来设置页面的编码方式。


图6. 设置页面编码的静态 HTML 文件
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"> <HTML> <HEAD> <META http-equiv="Content-Type" content="text/html; charset=UTF-8"> <TITLE>example.html</TITLE> </HEAD> <BODY> </BODY> </HTML>


标记"<META http-equiv="Content-Type" content="text/html; charset=UTF-8">" 将应答消息头中 Content_type 设置为"text/html; charset=UTF-8".

在 Servlet 中设置页面显示编码方式

在 Servlet 中,我们可以通过以下方式来设置应答消息的内容类型。


图7.设置页面编码的 Servlet 片断
protected void insertproc(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException{ resp.setContentType("text/html;charset=UTF-8");


代码行"resp.setContentType("text/html;charset=UTF-8");"将应答消息头中 Content_type 设置为"text/html; charset=UTF-8"。

在 JSP 中设置页面显示编码方式

我们通过以下示例说明如何在 JSP 中设置页面的编码格式。


图8. 设置业面编码的 JSP 页面指令
<%@ page language="java" contentType="text/html; charset=UTF-8" pageEncoding="UTF-8"%>


在这行的页面指令中的"text/html; charset=UTF-8"将应答消息中的"Content-type" 设置为"text/html; charset=UTF-8"。

"pageEncoding"只是指明了 JSP 页面本身的编码格式,指明了 JSP 是以什么编码方式保存。容器在读取文件时将起转化为内部使用的 Unicode. 当应答发送回至浏览器时,容器会将内部使用的 Unicode 转化为在 Content-type 中指定的字符集。

如果没有指定 PageEncoding,可以通过使用 Content-type 指定的字符集来解释 JSP 页面字节。

为了能正常显示 UTF-8 编码的字符,要满足以下两个条件:

1. 通知浏览器应答消息使用的字符集。

2. 配置浏览器使其能有正常显示 UTF-8 编码的字体。

Web 页面输入编码

HTML 的表单可以接受非西欧语言字符的输入。当需要创建一个需要接受非西欧语言字符输入的表单时,必须通知浏览器应该为用户输入使用哪个字符集,我们可以通过设置 page 指令的 contentType 属性来设置。

我们需要注意的是,当表单被提交后,浏览器会将表单字段值转换为指定字符集对应的字节值,然后根据 HTTP 标准 URL 编码方案对结果字节进行编码。当使用 ISO-8859-1 编码时,任何 a 到 z, A 到 Z 和 0 到 9 之外的字符都会被转化为十六进制格式的字节值,并在前面加上一个百分号(%).例如,如果表单的字符集被设为 UTF-8, 字符"中文"被传递的编码格式为:"%E4%B8%AD%E6%96%87"。为了对输入的信息进行处理,容器必须知道浏览器是使用什么字符集对输入进行编码的。问题是当今多数的浏览器并不提供这种信息,因此你必须自己提供这种信息,并告诉容器用哪个字符集对输入进行解码。

页面输入编码设定

在本文第3部分中说明了如何设置页面的显示编码,在设置页面编码的同时,也就指定了页面的输入方式。如果页面的显示被设置为UTF-8,那么用户所有的页面输入都会按照 UTF-8 编码。

页面输入输出过程编码设置

服务器端程序在读取表单输入之前要设定输入编码。我们可以看一下示例。

以下是一个用来提示用户输入的 JSP 页面:


图9. 用以界面输入的 JSP 页面
<%@ page contentType="text/html; charset=UTF-8" pageEncoding="UTF-8"%> <HTML> <HEAD> <TITLE>insertdb.jsp</TITLE> </HEAD> <BODY> <P> <FORM METHOD=POST ACTION="./InsertDbProcDs"> <TABLE> <TR> <TD>Name:</TD> <TD><input type="text" name="col2" value=""></TD> <TR> <TD><INPUT type="submit" value="submit"></TD> </TR> </TR> </TABLE> </RORM> </P> </BODY> </HTML>


页面指令元素的属性 Content-type 值为"text/html; charset=UTF-8",这会向浏览器指明页面是按照 UTF-8 编码的,并且所有用户通过页面的输入也会按照 UTF-8 编码。被 Action 所触发的 Servlet 如下例所示。


图10. 用以按 UTF-8 读取输入并输出的 Servlet
protected void insertproc(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException{ String test1 = req.getParameter("col2"); PrintWriter out = resp.getWriter(); resp.setContentType("text/html;charset=UTF-8"); out.println("<HTML>"); out.println("The input is " + test1); out.println("</HTML>");


通过表单页面输入"中文"并提交表单,得到的结果为:


图11.正确显示结果的页面
图11.正确显示结果的页面 

如果我们注释掉语句:resp.setContentType("text/html;charset=UTF-8"), 如下例:


图12. 用以按非 UTF-8 读取输入并输出的 Servlet
protected void insertproc(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException{ String test1 = req.getParameter("col2"); PrintWriter out = resp.getWriter(); //resp.setContentType("text/html;charset=UTF-8") out.println("<HTML>"); out.println("The input is " + test1); out.println("</HTML>");


输入"中文"并提交表单,得到的结果为:


图13. 错误显示输入结果的页面
图13. 错误显示输入结果的页面 

页面不能正确显示 UTF-8 编码的字符。

在被触发的 Servlet 中通过设置 resp.setContentType("text/html;charset=UTF-8") 来向浏览器指明输出的编码字符集为 UTF-8,浏览器会用正确的字符集来显示输出。如果 Servlet 中没有显示的调用 resp.setContentType("text/html;charset=UTF-8") 来设定输出字符集,浏览器将不能正确的解码和显示输出。

分享到:
评论

相关推荐

    UTF-8字符处理在Web开发中的应用

    UTF-8字符处理在Web开发中的应用

    Servlet 中文乱码解决工具类

    虽然浏览器提交的请求使用的是中文编码格式UTF-8,但经过业务处理中的ISO-8859-1编码,仍然会出现中文乱码现象。解决此问题的方法非常简单,在业务处理中重新指定中文字符集进行编码即可解决。在实际的开发过程中,...

    新版Android开发教程.rar

    的 Android SDK 提供了在 Android 平台上使用 JaVa 语言进行 Android 应用开发必须的工具和 API 接口。 特性 • 应用程序框架 支持组件的重用与替换 • Dalvik Dalvik Dalvik Dalvik 虚拟机 专为移动设备优化 • ...

    《Python快速编程入门》-课后题答案.pdf

    在python3.x版本的源代码中,默认使用的是UTF-8编码,从而可以很好的支持中文字符。 (3)在python2.x中,使用运算符/进行除法运算,整数相除的结果是一个整数,浮点数除法会保留小数点的部分得到一个浮点数的结 果...

    Python课后题答案(2018版).doc

    Python课后题答案 Python概述 填空题 1. 对象 2. 可移植 3. 字节码 4. UTF-8 判断题 1. 对 2. 对 3....在python3.x版本的源代码中,默认使 用的是UTF-8编码,从而可以很好的支持中文字符。 (3)在pyth

    play框架手册

    仅使用 UTF-8! - 96 - 国际化你的信息 - 96 - 通过应用程序定义支持的语言 - 96 - 依照你的区域定义日期格式 - 97 - 找回区域信息 - 97 - Message arguments - 97 - 模板输出 - 98 - 多参数 - 98 - 立即数Argument ...

    play framework 框架手册 word 版

    仅使用 UTF-8! - 96 - 国际化你的信息 - 96 - 通过应用程序定义支持的语言 - 96 - 依照你的区域定义日期格式 - 97 - 找回区域信息 - 97 - Message arguments - 97 - 模板输出 - 98 - 多参数 - 98 - 立即数Argument ...

    JSF1.2+EJB3.0实现的一个项目实例

    &lt;br&gt; 1)本项目开发环境 操作系统: Windows xp sp2 JDK环境: JDK1.6.0 IDE工具: MyEclipse6.0GA 数据库: Mysql 5.0.41 字符集设置:utf-8 EJB容器: JBoss4.2.1GA Web容器:...

    XML实用大全----xml详细参考书

    7.4.1 UTF-8. 171 7.4.2 通用字符系统... 171 7.5 如何使用Unicode编写XML. 173 7.5.1 利用字符引用在XML文件中插入字符... 173 7.5.2 其他字符集与Unicode字符集之间的转换... 173 7.5.3 如何使用其他字符集...

    TechMVC 3.2.1:基于MVC2HTML 5启用的Web应用程序框架-开源

    TechMVC是一个非常强大且经过高度优化的基于MVC2的Web应用程序框架,使开发人员能够构建高性能网站。 当前版本:3.1.1升级的功能:================ 1.启用了元字符集支持。 可以从Config.php($ var-&gt; ...

    XML实用大全(web开发必备手册)

    7.4.1 UTF-8. 171 7.4.2 通用字符系统... 171 7.5 如何使用Unicode编写XML. 173 7.5.1 利用字符引用在XML文件中插入字符... 173 7.5.2 其他字符集与Unicode字符集之间的转换... 173 7.5.3 如何使用其他字符集...

    JavaScript笔记

    也是一种广泛应用于客户端Web开发的脚本语言) 基于对象:网页中的一切元素都是假象!不需要new,即可直接使用 事件驱动:JavaScript的执行都是由事件引发 解释执行:先读到的先执行,后读到的会替代先读的 可以...

    java开源包1

    开发它是用于在UTF-8 Oracle实例中使用ASCII编码的Oracle 数据库中来正确的传输非ASCII字符。 Java模板语言 Beetl Beetl,是Bee Template Language的缩写,它绝不是简单的另外一种模板引擎,而是新一代的模板引擎,...

    iuhyiuhkjh908u0980

    在windows系统中,命令行中执行ant命令时,当指定的 构建脚本文件中包含中文字符,而构建脚本文件的编码是UTF-8时将会 Invalid byte 1 of 1-byte UTF-8 sequence. 的错误.这个问题尚未 知解决,故先采用GBK的编码. 2.在...

    java开源包10

    开发它是用于在UTF-8 Oracle实例中使用ASCII编码的Oracle 数据库中来正确的传输非ASCII字符。 Java模板语言 Beetl Beetl,是Bee Template Language的缩写,它绝不是简单的另外一种模板引擎,而是新一代的模板引擎,...

    OQSS在线问卷调查系统

    OQSS:全能的问卷调查系统,广泛的web表单引擎,每个企业、每个网站都需要一套OQSS。人力资源部使用OQSS进行人力资源...  使用UTF-8字符集,比GB2312更广泛,兼容性更强,港澳台及国外用户访问也不会出现乱码

    php网络开发完全手册

    7.5 正则表达式与字符操作的综合应用 110 7.5.1 获得与模式匹配的数组单元—— 7.5.1 preg_grep 110 7.5.2 进行全局正则表达式的匹配—— 7.5.2 preg_match_all 111 7.5.3 进行正则表达式的匹配——preg_ 7.5.3 ...

    PHP开发实战1200例(第1卷).(清华出版.潘凯华.刘中华).part1

    本书是第I卷,以开发人员在项目开发中经常遇到的问题和必须掌握的技术为中心,介绍了应用PHP进行Web开发的各个方面的知识和技巧,主要包括开发环境、PHP基础、Web页面交互、文件操作、会话应用、图形图像处理及面向...

    MuseMail Server邮件服务器软件 v5.2.zip

    在邮件系统最重要的人机交互界面—Webmail中,MuseMail应用先进的AJAX动态页面无刷新技术,采用当前最为流行的PHP语言,以插件和模块化多层设计模式实现,并且严格遵循W3C国际标准,以UTF-8的全球通用字符集为界面...

Global site tag (gtag.js) - Google Analytics