详解Unicode和UTF-8编码

本文通过介绍Unicode编码以及对应的两种编码方式UTF-8和UTF-16,让读者能够了解关于字符串编码的相关知识,同时能够弄清楚Unicode和UTF-8和UTF-16之间的关系。

ASCII 码

什么是 ASCII 码?

ASCII 码(American Standard Code for Information Interchange)称为美国标准信息交换码。它是基于拉丁字母的一套电脑编码系统。它定义了一个用于代表常见字符的字典。

ASCII 码都包含哪些字符?

包括 “A-Z”(大小写都包含),数据”0-9” 以及一些常见的符号。

ASCII 码的局限在哪里?

ASCII 当初只是为美国英语而设计的,只能显示 128 个编码,对其他的语言无能为力。要想显示其他语言的编码,还是要使用 unicode。

Unicode

什么是 Unicode ?

为了将全世界的文字都统一的记录下来,并将每个字符都用唯一的数字记录下来,于是就产生了Unicode。

Unicode 也称为 UCS(Universal Coded Character Set:国际编码字符集合) 是一个字符集合,对世界上大部分的文字系统进行了整理,编码,使电脑可以用更为简单的方式来呈现和处理文字。最新的版本 Unicode 11.0 已经包含了 137439 个字符。

Unicode 的数量之多,如果完全涵盖它, 需要用 4 个字节来表示,但是计算机存储过程中却不是必须都用 4 个字节来完成。对于有些字符,尤其是编码在前面的字符我们也可以通过 1 个或 两个字节来节省空间。这就涉及到了 unicode 的实现方式。

Unicode 的实现方式有几种?

Unicode 只是一个字符集合,每个字符用一个数字来表示,但是这些数字在计算机内采用什么方式来存储,是全部都是 4 个字节,还是 1 到 4 个字节不等,这就涉及到了字符编码的概念。

我们说 Unicode 有几种实现方式,也就是在问 Unicode 有几种编码方式?

Unicode 常用的编码方式有 UTF-8, UCS-2, UTF-16 三种,另外还有一种 UTF-32 虽然不太常用也需要提一下。

Unicode 的体系结构是什么样的?

Unicode 既然能够存储那么多的字符,肯定是有它的存储规则的,如果使用 16 进制存储,它的存储范围是多少到多少,是否都是直筒式的,从低到高排就可以了?也就是说 Unicode 的体系结构是怎么样的。

Unicode 当前定义其字符的存储范围是: 0hex 到 10FFFFhex ,共分为 17 个区段,可以存储 1,114,112 个字符,这对当前 (137439) 来说远远足够了。

其中区段为 0hex 到 FFFFhex 称为 基本多文种平面 BMP (Basic Multilingual Plane),在这个平面中的字符表现形式是 U+ 后面跟 16 进制数。例如 X 字符的 unicode 是 U+0058。

而超出 BMP 范围的,也就是 10000hex–10FFFFhex 这 16 个区段,需要用到 5 到 6 位来表示,如 U+E0001 和 U+10FFFD。

UTF-8 编码

UTF-8 是使用互联网上使用最广泛的 unicode 编码方式,目前已经占有整个互联网 92% 的份额。这里再强调下 UTF-8 只是 Unicode 的一种实现方式,UTF-8 是编码方式,而 Unicode 是字符集合

它是可变长的编码方式,长度从 1 个字节到 4 个字节不等。

它能够完全兼容 ASCII 码,我们知道 ASCII 码 是由 128 个字符组成的,而 Unicode 中的前 128 个字符和 ASCII 码都是一一对应的。

UCS-2 编码

UCS-2 只使用了两个字节(16 bit) 来表示字符,也就是说只能表示 65536 个字符,它只能表示 BMP 中的字符。

当前的 unicode 字符数量已远远超过了 UCS-2 的数量,因此 UCS-2 虽然还在被好多软件使用,但它已经过期了。

正因为 UCS-2 编码依然被许多软件使用,为了能够表示出 BMP 以外的平面内的字符,就产生了一种新的编码 UTF-16 编码。

UTF-16 编码

UTF-16 就是为了解决 UCS-2 编码的问题而生的,它扩展自 UCS-2

基本多文种平面中,与 UCS-2 编码完全一致,使用两个字节表示

U+010000 到 U+10FFFF 范围 使用 4 个字节表示

UTF-16 编码的市场份额和 UTF-8 比很小, 在web 页面中只占 0.01% 。而且主要在 windows 系统中使用, Unix/Linux 以及 MacOS 中很少使用。

UTF-32 编码

UTF-32 对 Unicode 中的每个字符都用 4 个字节来表示,占用的空间比其他编码要多的多,也正是这个原因,人们才用的很少。

小结

既然看到了这里,您一定对 unicode 有了一些认识吧,请再来回顾下 Unicode 的思维导图,加深下理解。

带你了解 Unicode和UTF-8编码知识带你了解 Unicode和UTF-8编码知识

下面来总结下重点:

ASCII 码只能表示 128 个字符,只是针对美国英语而设计的, 为了表示其他语言的字符,于是就有了 Unicode

Unicode 只是一个字符集,里面收集了全世界绝大部分语言的字符。它有多种实现方式(编码方式),最常用的就是 UTF-8

UTF-8 编码是变长字节的,1 到 4 个字节不等,并且它能够完全兼容 ASCII 码

原创文章,作者:晴川运维,如若转载,请注明出处:https://baike.qcidc.com/16289.html

(0)
晴川运维晴川运维
上一篇 2025年10月22日
下一篇 2025年10月22日

相关推荐

  • 详解Bash提取子字符串具体方法

    所谓“子字符串”就是出现在其它字符串内的字符串。 比如 “3382” 就是 “this is a 3382 test” 的子字符串。 我们有多种方法可以从中把数字或指定部分字符串抽…

    Linux系统 2025年10月21日
  • Linux C线程池的具体实现方法

    什么时候需要创建线程池呢?简单的说,如果一个应用需要频繁的创建和销毁线程,而任务执行的时间又非常短,这样线程创建和销毁的带来的开销就不容忽视,这时也是线程池该出场的机会了,下面为大…

    Linux系统 2025年6月27日
  • 通过命令行的方式将Fedora 31升级到Fedora 32

    Fedora是一个知名的Linux发行版,是一款由全球社区爱好者构建的面向日常应用的快速、稳定、强大的操作系统。它允许任何人自由地使用、修改和重发布,无论现在还是将来。它由一个强大…

    Linux系统 2025年9月20日
  • 详解TCP长连接和短连接

    HTTP的长连接和短连接本质上是TCP长连接和短连接。HTTP属于应用层协议,在传输层使用TCP协议,在网络层使用IP协议。IP协议主要解决网络路由和寻址问题,TCP协议主要解决如…

    Linux系统 2025年6月8日
  • 在 Linux 上挖掘 DNS 应答中的秘密

    dig 是一个强大而灵活的工具,用于查询域名系统(DNS)服务器。在这篇文章中,我们将深入了解它的工作原理以及它能告诉你什么。 dig 是一款强大而灵活的查询 DNS 名…

    Linux系统 2025年10月25日
  • 详解Redis集群快捷迁移工具:Redis-migrate-tool

    Redis-Migrate-Tool(都简称RMT),是唯品会开源的redis数据迁移工具,主要用于异构redis集群间的数据在线迁移,即数据迁移过程中源集群仍可以正常接受业务读写…

    Linux系统 2025年6月18日
  • 在磁盘中查看MySQL 表大小

    我想知道 MySQL 表在磁盘上占用多少空间,但看起来很琐碎。不应该在 INFORMATION_SCHEMA.TABLES 中提供这些信息吗?没那么简单! 这个看似简单的问题实际上…

    Linux系统 2025年9月23日
  • 详解日志分析工具GoAccess

    GoAccess 是一款开源的且具有交互视图界面的实时 Web 日志分析工具,通过你的 Web 浏览器或者 *nix 系统下的终端程序(terminal)即可访问。能为系统管理员提…

    Linux系统 2025年6月4日
  • Linux Vim三种工作模式(命令模式、输入模式和编辑模式)详解

    通过前面的学习我们知道,linux 系统中所有的内容都以文件的形式进行存储,当在命令行下更改文件内容时,常会用到文本编辑器。 我们首选的文本编辑器是 Vim(至于为什么,可查看《V…

    Linux系统 2025年9月20日
  • Linux中向$PATH添加目录具体方法

    在命令行上键入命令时,基本上是告诉 shell 运行具有给定名称的可执行文件。在 Linux 中,这些可执行程序,如 ls , find , file 和其他命令,他们都位于你的系…

    Linux系统 2025年10月8日

发表回复

登录后才能评论