Java字符编码根本原理

Java字符编码根本原理

 

Java开发中，常常会遇到乱码的问题，一旦遇到这种问题，常常就很扯蛋，每个人都不愿意承认是自己的代码有问题。其实编码问题并没有那么神秘，那么不可捉摸，搞清Java的编码本质过程就真相大白了。

 

先看个图：

 

 

其实，编码问题存在两个方面：JVM之内和JVM之外。

 

 

1、Java文件编译后形成class

这里Java文件的编码可能有多种多样，但Java编译器会自动将这些编码按照Java文件的编码格式正确读取后产生class文件，这里的class文件编码是Unicode编码（具体说是UTF-16编码）。

 

因此，在Java代码中定义一个字符串：

String s="汉字";

不管在编译前java文件使用何种编码，在编译后成class后，他们都是一样的----Unicode编码表示。

 

2、JVM中的编码

JVM加载class文件读取时候使用Unicode编码方式正确读取class文件，那么原来定义的String s="汉字";在内存中的表现形式是Unicode编码。

 

当调用String.getBytes()的时候，其实已经为乱码买下了祸根。因为此方法使用平台默认的字符集来获取字符串对应的字节数组。在WindowsXP中文版中，使用的默认编码是GBK，不信运行下：

public class Test { 
        public static void main(String[] args) { 
                System.out.println("当前JRE：" + System.getProperty("java.version")); 
                System.out.println("当前JVM的默认字符集：" + Charset.defaultCharset()); 
        } 
}

 

当前JRE：1.6.0_16 
当前JVM的默认字符集：GBK

 

当不同的系统、数据库经过多次编码后，如果对其中的原理不理解，就容易导致乱码。因此，在一个系统中，有必要对字符串的编码做一个统一，这个统一模糊点说，就是对外统一。比如方法字符串参数，IO流，在中文系统中，可以统一使用GBK、GB13080、UTF-8、UTF-16等等都可以，只是要选择有些更大字符集，以保证任何可能用到的字符都可以正常显示，避免乱码的问题。（假设对所有的文件都用ASCII码）那么就无法实现双向转换了。

 

要特别注意的是，UTF-8并非能容纳了所有的中文字符集编码，因此，在特殊情况下，UTF-8转GB18030可能会出现乱码，源代码统统都用GBK18030就OK了，免得ANT脚本编译时候提示不可认的字符编码。

 

因此，对于中文系统来说，最好选择GBK或GB18030编码（其实GBK是GB18030的子集），以便最大限度的避免乱码现象。

 

3、内存中字符串的编码

内存中的字符串不仅仅局限于从class代码中直接加载而来的字符串，还有一些字符串是从文本文件中读取的，还有的是通过数据库读取的，还有可能是从字节数组构建的，然而他们基本上都不是Unicode编码的，原因很简单，存储优化。

 

因此就需要处理各种各样的编码问题，在处理之前，必须明确“源”的编码，然后用指定的编码方式正确读取到内存中。如果是一个方法的参数，实际上必须明确该字符串参数的编码，因为这个参数可能是另外一个日文系统传递过来的。当明确了字符串编码时候，就可以按照要求正确处理字符串，以避免乱码。

在对字符串进行解码编码的时候，应该调用下面的方法：

getBytes(String charsetName)    
String(byte[] bytes, String charsetName)

 

而不要使用那些不带字符集名称的方法签名，通过上面两个方法，可以对内存中的字符进行重新编码。

 

乱码问题的原因：

1. 本地系统区域语言字符集的问题，我们的系统可能默认的字符集为GB2312或GBK。

2. Java源文件编码字符的问题，如果使用eclipse可以查看一下java source文件的编码方式。

3. javac编译时的字符问题，这一个问题很容易被忽略，运行一下javac可以看到有一个encoding的参数可以设置----这一个很重要。

4. 要读取文件的编码和读取时的字符集设置问题，如果我们要用的字符串不是硬编码在java源码中，而是从资源文件中读取时，就要注意这个问题了。

 

解决方法呢：

第一种情况，本地系统的语言字符，我们管不了；

第二种情况，转换一下文件的编码就好了；

第三种情况，当我们检查确定Java源文件编码字符是UTF-8，对javac编译时的参数设置，增加encoding参数，如：javac -encoding utf8 Test.java

    但在Eclipse没找到相关的设置，只好有以下方法：

    1.手工编译使用到MenuItem的类，目前只发现java.awt包会存在这个问题，swing包能很好的解决这种字符集变换的问题。

    2.使用其它编译方式，如ant、Maven，它们都能配置javac。先给出网友文章给出的Maven例子：

                        org.apache.maven.plugins    

                        maven-compiler-plugin    

                        2.3.2    

                           

                                <source></source>1.6    

                                1.6    

                                utf8    

                           

                   

                                            ....

 

而我用Ant的：      

                     destdir="${targetdir}" 

                     encoding="UTF-8" 

                     target="1.6"

                     classpathref="libraries" />

 

4. 要读取的文件的字符编码和读取流编码，对一个资源文件，我们也要设置其编码为utf8(参照第2条，跟设置java源文件编码是一样的)，同时在使用流读取时也要设置流的读取编码(这个网上说java字符流的默认的是jvm的编码，跟系统字符集一致)。

 

读取流代码如下：

BufferedReader br = new BufferedReader(new InputStreamReader(new FileInputStream(langFile), "utf8"));

 

这里还要注意的是：在复制这个资源文件时，最好也设置一下编码，如用ant复制时：

   

        tofile="D:\klaudisk-client\target\conf\settings.ini" overwrite="true" encoding="utf8"/>

 

还可以使用Properties.load()方法来加载.properties文件(该文件是被java bin下的navie2asc程序处理过的文件)，这样就不用管第4点问题了。