概述
本文通过介绍Unicode编码以及对应的两种编码方式UTF-8和UTF-16,让读者能够了解关于字符串编码的相关知识,同时能够弄清楚Unicode和UTF-8和UTF-16之间的关系。
本文的主要内容为:
- Unicode编码,包含Unicode编码基础知识以及与UTF-8和UTF-16这两种编码方式的关系
- UTF-8编码,包含基础概念和Unicode编码转换到UTF-8编码方式
- UTF-16编码,包含基础概念和Unicode编码转换到UTF-16编码方式
- JavaScript中string与DOMString
本文作为utfx.js源码解析的基础知识储备文章,通过了解UTF-8和UTF-16这两种编码方式,读者能够理解使用JavaScript进行编码转换的原理。
如果想了解编码转换的使用场景,可以阅读我之前的博客WebSocket系列之JavaScript字符串如何与二进制数据间进行互相转换。
如果想了解utfx.js相关的源码内容,可以关注我的后续文章。
Unicode编码
概念
Unicode(统一码、万国码、单一码)是计算机科学领域里的一项业界标准,包括字符集、编码方案等。Unicode 是为了解决传统的字符编码方案的局限而产生的,它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。1990年开始研发,1994年正式公布。
通常Unicode编码是通过2 Byte来表示一个字符的,如U+A12B
,2 Byte的二进制表示方法结果就是1010(A)0001(1) 0010(2)1011(B)
。
简单介绍完了Unicode,我们来看下UTF-8和UTF-16。需要注意的是:UTF是Unicode TransferFormat的缩写,UTF-8和UTF-16都是把Unicode码转换成程序数据的一种编码方式。
UTF-8
概念
UTF-8(8-bit Unicode Transformation Format)是一种针对Unicode的可变长度字符编码,又称万国码。由Ken Thompson于1992年创建。现在已经标准化为RFC 3629。UTF-8用1到6个字节编码Unicode字符。用在网页上可以统一页面显示中文简体繁体及其它语言(如英文,日文,韩文)。
通过上面的介绍我们可以知道,UTF-8是一种非常通用的可变长字符编码方式。
首先,我们来介绍下什么叫做可变长编码?可变长编码就是指在针对某个字符进行编码时,他的表示长度是不固定的。像UTF-8里面,ASCII所表示的字符集就是用1 Byte来表示,而大部分汉字则是用3 Byte来表示。
相较于Unicode统一使用2 Byte来表示字符,在遇到大部分字符都可以用1 Byte表示时,能够节省许多存储空间。但是,如果遇到需要用超过2 Byte来表示的字符,那么UTF-8的编码方式则会消耗更多的存储空间。
表示方式
通过上面的介绍我们可以知道,不同的Unicode码在UTF-8中占用了不同的存储空间。下面我们就通过一个表格来看下将Unicode字符转换为UTF-8编码方式的具体步骤。其中的?
表示转换成UTF-8编码后,Unicode码占用的二进制位置。
Unicode码范围 | UTF-8编码方式 |
---|---|
U+0000 ~U+007F
|
0???????? |
U+0080 ~U+07FF
|
110????? 10?????? |
U+0800 ~U+FFFF
|
1110???? 10?????? 10?????? |
U+10000 ~U+10FFFF
|
11110??? 10?????? 10?????? 10?????? |
当我们得到Unicode码后,我们先根据上面的这个表判断其所处的范围,然后将Unicode码转换为二进制表示,从后往前截取UTF-8编码中所留为之长度,从前往后依次填入对应位置,所即可得到UTF-8的编码。我们举两个例子来看下:
-
U+0020
,这个字符的小于0000 007F,所以只需要用1 Byte来进行编码。U+0020
的二进制表示为0000(0)0000(0) 0010(2)0000(0)
,那么从后往前截取7位得到010 0000
,放入UTF-8编码方式中,得到的结果为00101111
,转换为十六进制得到2F
。因此存储在内存中的的顺序就是2F
。 -
U+A12B
,这个字符大于0000 0800,小于0000 FFFF,因此需要用3 Byte来进行编码。U+A12B
的二进制表示为1010(A)0001(1) 0010(2)1011(B)
。,那么从后往前截取16位得到10100001 00101011
(Unicode码本身),放入UTF-8编码中,得到的结果为11101010 10000100 10101011
,转换十六进制得到EA84AB
。因此,存储在内存中的顺序就是EA 84 AB
。
通过上面的例子,我相信大家对UTF-8的编码有了一个深入的理解。下面,让我们来看下另一种编码方式——UTF-16。
UTF-16
概念
UTF-16是Unicode字符编码五层次模型的第三层:字符编码表(Character Encoding Form,也称为 "storage format")的一种实现方式。即把Unicode字符集的抽象码位映射为16位长的整数(即码元, 长度为2 Byte)的序列,用于数据存储或传递。Unicode字符的码位,需要1个或者2个16位长的码元来表示,因此这是一个变长表示。
引用维基百科中对于UTF-16编码的解释我们可以知道,UTF-16最少也会用2 Byte来表示一个字符,因此没有办法兼容ASCII编码(ASCII编码使用1 Byte来进行存储)。
表示方式
在UTF-16中,我们将Unicode分为了两个范围,分别通过不同的方式进行存储。具体表示见下图。
Unicode范围 | UTF-16编码方式 |
---|---|
U+000 ~U+FFFF
|
2 Byte存储,编码后等于Unicode值 |
U+10000 ~U+10FFFF
|
4 Byte存储,现将Unicode值减去(0x10000),得到20bit长的值。再将Unicode分为高10位和低10位。UTF-16编码的高位是2 Byte,高10位Unicode范围为0 -0x3FF ,将Unicode值加上0XD800 ,得到高位代理(或称为前导代理,存储高位);低位也是2 Byte,低十位Unicode范围一样为0 ~0x3FF ,将Unicode值加上0xDC00 ,得到低位代理(或称为后尾代理,存储低位) |
根据上面的转换方式,我们就能够将Unicode码根据UTF-16的编码方式进行转换。下面我们仍然通过两个例子来看下:
-
U+0020
,这个值的范围在第一部分,即经过UTF-16编码后,结果仍然为U+0020
,在内存中的顺序为00 20
。 -
U+12345
, 这个值的范围在第二部分,因此需要先减去0x10000
,得到0x02345
,拆分成高10位00 0000 1000
和低10位11 0100 0101
。根据上面规则加上特定值后,高位代理值为D808
,低位代理值为DF45
,最终内存中的顺序为D8 08 DF 45
。
JavaScript中的string与DOMString
在JavaScript中,所有的string类型(或者被称为DOMString)都是使用UTF-16编码的。
因此,当我们需要转换成二进制与后端进行通信时,需要注意相关的编码方式。
总结
本文通过对Unicode编码和UTF-8和UTF-16两种编码方式进行介绍,让大家了解Unicode编码以及相关的两种程序数据编码方式。
本文是作为utfx.js源码分析的基础知识储备文章,在稍后的时间将会给大家带来相关内容的后续文章——utfx.js源码解析,让大家能够了解在JavaScript中如何进行相关的编码转换。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。