歡迎光臨
每天分享高質量文章

不想再被鄙視?那就看進來! 一文搞懂 Python 2 字符編碼

來源: xybaby

www.cnblogs.com/xybaby/p/7814299.html

程式員都自視清高,覺得自己是創造者,經常鄙視不太懂技術的產品或者QA。可悲的是,程式員之間也相互鄙視,程式員的鄙視鏈流傳甚廣,作為一個Python程式員,自然最關心的是下麵這幅圖啦



我們專案組一值使用Python2.7,雖然我們也知道Python3的諸多好處,也曾經蠢蠢欲動過,但由於各種歷史原因,以及業務的壓力,我們只可能繼續使用Python2.7。更悲哀的是,我們組不是那麼international,所以代碼中還是涉及到大量的中文,因此偶爾也會遇到亂碼以及UnicodeError,於是生活在了鄙視鏈的末端。

因此,本文的標的是解釋清楚 python2.7 中unicode、str的編解碼關係,力求在鄙視鏈中前進一步。

註意:本文實驗主要基於win7,Python2.7;以及Linux ,Python2.7。除非特殊說明,所有的命令都是在終端中交互式輸入;如果沒有強調平臺,那麼就是window上的結果。下麵是一些預設的環境信息(其重要性後文會介紹)

windows

>>> import sys,locale

>>> sys.getdefaultencoding()

‘ascii’

>>> locale.getdefaultlocale()

(‘zh_CN’, ‘cp936’)

>>> sys.stdin.encoding

‘cp936’

>>> sys.stdout.encoding

‘cp936’

>>> sys.getfilesystemencoding()

‘mbcs’

註意,上面CP936是GBK的別名,在https://docs.python.org/2/library/codecs.html#standard-encodings 可以查看。

Linux

>>> import sys,locale

>>> sys.getdefaultencoding()

‘ascii’

>>> locale.getdefaultlocale()

(‘zh_CN’, ‘UTF-8’)

>>> sys.stdin.encoding

‘UTF-8’

>>> sys.stdout.encoding

‘UTF-8’

>>> sys.getfilesystemencoding()

‘UTF-8’

從字符編碼說起

首先來說一說gbk gb2312 unicode utf-8這些術語,這些術語與語言無關。

計算機的世界只有0和1,因此任何字符(也就是實際的文字符號)也是由01串組成。計算機為了運算方便,都是8個bit組成一個位元組(Byte),字符表達的最小單位就是位元組,即一個字符占用一個或者多個位元組。字符編碼(character encoding)就是字集碼,編碼就是將字符集中的字符映射為一個唯一二進制的過程。

計算機發源於美國,使用的是英文字母(字符),所有26個字母的大小寫加上數字0到10,加上符號和控制字符,總數也不多,用一個位元組(8個bit)就能表示所有的字符,這就是ANSI的“Ascii”編碼(American Standard Code for Information Interchange,美國信息互換標準代碼)。比如,小寫字母‘a’的ascii 碼是01100001,換算成十進制就是97,十六進制就是0x61。計算機中,一般都是用十六進制來描述字符編碼。

但是當計算機傳到中國的時候,ASCII編碼就行不通了,漢字這麼多,一個位元組肯定表示不下啊,於是有了GB 2312(中國國家標準簡體中文字符集)。GB2312使用兩個位元組來對一個字符進行編碼,其中前面的一個位元組(稱之為高位元組)從0xA1用到 0xF7,後面一個位元組(低位元組)從0xA1到0xFE,GB2312能表示幾千個漢字,而且與asill嗎也是兼容的。

但後來發現,GB2312還是不夠用,於是進行擴展,產生了GBK(即漢字內碼擴展規範), GBK同Gb2312一樣,兩個位元組表示一個字符,但區別在於,放寬了對低位元組的要求,因此能表示的範圍擴大到了20000多。後來,為了容納少數名族,以及其他漢字國家的文字,出現了GB13080。GB13080是兼容GBK與GB2312的,能容納更多的字符,與GBK與GB2312不同的是,GB18030採用單位元組、雙位元組和四位元組三種方式對字符編碼

因此,就我們關心的漢字而言,三種編碼方式的表示範圍是:

GB18030 》 GBK 》 GB2312

GBK是GB2312的超集,GB1803又是GBK的超集。後面也會看到,一個漢字可以用GBK表示,但不一定能被GB2312所表示

當然,世界上還有更多的語言與文字,每種文字都有自己的一套編碼規則,這樣一旦跨國就會出現亂碼,亟待一個全球統一的解決辦法。這個時候ISO(國際標準化組織)出馬了,發明瞭”Universal Multiple-Octet Coded Character Set”,簡稱 UCS, 俗稱 “unicode”。標的很簡單:廢了所有的地區性編碼方案,重新搞一個包括了地球上所有文化、所有字母和符號 的編碼!

unicode每種語言中的每個字符設定了統一併且唯一的二進制編碼,以滿足跨語言、跨平臺進行文本轉換、處理的要求。unicode編碼一定以u開頭。

但是,unicode只是一個編碼規範,是所有字符對應二進制的集合,而不是具體的編碼規則。或者說,unicode是表現形式,而不是儲存形式,就是說沒用定義每個字符是如何以二進制的形式儲存的。這個就跟GBK這些不一樣,GBK是表裡如下,表現形式即儲存形式。

比如漢字“嚴”的unicode編碼是u4e25,對應的二進制是1001110 00100101,但是當其經過網絡傳輸或者檔案儲存時,是沒法知道怎麼解析這些二進制的,容易和其他位元組混在一起。那麼怎麼儲存unicode呢,於是出現了UTF(UCS Transfer Format),這個是具體的編碼規則,即UTF的表現形式與儲存格式是一樣的。

因此,可以說,GBK和UTF-8是同一個層面的東西,跟unicode是另一個層面的東西,unicode飄在空中,如果要落地,需要轉換成utf-8或者GBK。只不過,轉換成Utf-8,大家都能懂,更懂用,而轉換成GBK,只有中國人才看得懂

UTF也有不同的實現,如UTF-8, UTF-16, 這裡以UTF-8為例進行講解(下麵一小節取用了阮一峰的文章)。

unicode與utf-8

UTF-8最大的一個特點,就是它是一種變長的編碼方式。它可以使用1~4個位元組表示一個符號,根據不同的符號而變化位元組長度。UTF-8的編碼規則很簡單,只有二條:

1)對於單位元組的符號,位元組的第一位設為0,後面7位為這個符號的unicode碼。因此對於英語字母,UTF-8編碼和ASCII碼是相同的。

2)對於n位元組的符號(n>1),第一個位元組的前n位都設為1,第n+1位設為0,後面位元組的前兩位一律設為10。剩下的沒有提及的二進制位,全部為這個符號的unicode碼。

下表總結了編碼規則,字母x表示可用編碼的位。

Unicode符號範圍      |        UTF8編碼方式

(十六進制)           |        (二進制)

———————-+———————————————

0000 00000000 007F | 0xxxxxxx

0000 00800000 07FF | 110xxxxx 10xxxxxx

0000 08000000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx

0001 00000010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

以漢字“嚴”為例,演示如何實現UTF-8編碼。

已知“嚴”的unicode是4E25(100111000100101),根據上表,可以發現4E25處在第三行的範圍內(0000 0800-0000 FFFF),因此“嚴”的UTF-8編碼需要三個位元組,即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然後,從“嚴”的最後一個二進制位開始,依次從後向前填入格式中的x,多出的位補0。這樣就得到了,“嚴”的UTF-8編碼是“11100100 10111000 10100101”,轉換成十六進制就是E4B8A5。

當編解碼遇上Python2.x

下麵使用Python語言來驗證上面的理論。在這一章節中,當提到unicode,一般是指unicode type,即Python中的型別;也會提到unicode編碼、unicode函式,請大家註意區別。

另外,對於編碼,也有兩種意思。第一個是名字,指的是字符的二進製表示,如unicode編碼、gbk編碼。第二個是動詞,指的是從字符到二進制的映射過程。不過後文中,編碼作為動詞,狹義理解為從unicode型別轉換成str型別的過程,解碼則是相反的過程。另外強調的是,unicode型別一定是unicode編碼,而str型別可能是gbk、ascii或者utf-8編碼。

unicode 與 str 區別

在python2.7中,有兩種“字串”型別,分別是str 與 unicode,他們有同一個基類basestring。str是plain string,其實應該稱之為位元組串,因為是每一個位元組換一個單位長度。而unicode就是unicode string,這才是真正的字串,一個字符(可能多個位元組)算一個單位長度。

python2.7中,unicode型別需要在文本之間加u表示。

>>> us = u‘嚴’

>>> print type(us), len(us)

<type ‘unicode’> 1

>>> s = ‘嚴’

>>> print type(s), len(s)

<type ‘str’> 2

>>>

從上可以看到,第一,us、s的型別是不一樣的;其二,同一個漢字,不同的型別其長度也是不一樣的,對於unicode型別的實體,其長度一定是字符的個數,而對於str型別的實體,其長度是字符對應的位元組數目。這裡強調一下,s(s = ‘嚴’)的長度在不同的環境下是不一樣的!後文會解釋

__str__ __repr__的區別

這是python中兩個magic method,很容易讓新手迷糊,因為很多時候,二者的實現是一樣的,但是這兩個函式是用在不同的地方

_str__, 主要是用於展示,str(obj)或者print obj的時候呼叫,傳回值一定是一個str 物件

__repr__, 是被repr(obj), 或者在終端直接打obj的時候呼叫

>>> us = u‘嚴’

>>> us

u‘嚴’

>>> print us


可以看到,不使用print傳回的是一個更能反映物件本質的結果,即us是一個unicode物件(最前面的u表示,以及unicode編碼是用的u),且“嚴”的unicode編碼確實是4E25。而print呼叫可us.__str__,等價於print str(us),使得結果對用戶更友好。那麼unicode.__str__是怎麼轉換成str的呢,答案會在後面揭曉

unicode str utf-8關係

前面已經提到,unicode只是編碼規範(只是字符與二進制的映射集合),而utf-8是具體的編碼規則(不僅包含字符與二進制的映射集合,而且映射後的二進制是可以用於儲存和傳輸的),即utf-8負責把unicode轉換成可儲存和傳輸的二進制字串即str型別,我們稱這個轉換過程為編碼。而從str型別到unicode型別的過程,我們稱之為解碼。

Python中使用decode()和encode()來進行解碼和編碼,以unicode型別作為中間型別。如下圖所示

  decode     encode

str ———> unicode ———>str

即str型別呼叫decode方法轉換成unicode型別,unicode型別呼叫encode方法轉換成str型別。for example


>>> us = u‘嚴’

>>> ss = us.encode(‘utf-8’)

>>> ss

‘严’

>>> type(ss)

<type ‘str’>

>>> ss.decode(‘utf-8’) == us

True

從上可以看出encode與decode兩個函式的作用,也可以看出’嚴’的utf8編碼是E4B8A5。

就是說我們使用unicode.encode將unicode型別轉換成了str型別,在上面也提到unicode.__str__也是將unicode型別轉換成str型別。二者有什麼卻比呢

unicode.encode 與 unicode.__str__的區別

首先看看文件

str.encode([encoding[, errors]])

  Return an encoded version of the string. Default encoding is the current default string encoding.

  

object.__str__(self)

  Called by the str() builtin function and by the print statement to compute the informal string representation of an object.

註意:str.encode 這裡的str是basestring,是str型別與unicode型別的基類

可以看到encode方法是有可選的引數:encoding 和 errors,在上面的例子中encoding即為utf-8;而__str__是沒有引數的,我們可以猜想,對於unicode型別,__str__函式一定也是使用了某種encoding來對unicode進行編碼。

首先不禁要問,如果encode方法沒有帶入引數,是什麼樣子的:

>>> us.encode()

Traceback (most recent call last):

File , line 1, in <module>

UnicodeEncodeError: ‘ascii’ codec can‘t encode character u’u4e25 in position 0: ordinal not in range(128)


不難看出,預設使用的就是ascii碼來對unicode就行編碼,為什麼是ascii碼,其實就是系統預設編碼(sys.getdefaultencoding的傳回值)。ascii碼顯然無法表示漢字,於是丟擲了異常。而使用utf-8編碼的時候,由於utf能夠表示這個漢字,所以沒報錯。

如果直接打印ss(us.encode(‘utf-8’)的傳回值)會怎麼樣

>>> print ss


結果略有些奇怪,us.__str__(即直接打印us)的結果不一樣,那麼試試encoding = gbk呢?

>>> print us.encode(‘gbk’)

U got it! 事實上也是如此,python會採用終端預設的編碼(用locale.getdefaultlocale()查看,windows是為gbk)將unicode編碼成str型別。

在Linux(終端編碼為utf-8),結果如下:

>>> us= u‘嚴’

>>> print us.encode(‘utf-8’)

>>> print us.encode(‘gbk’)

▒▒

>>> print us

>>>

註意上面的亂碼!

unicode gbk之間的轉換

在上上小節,介紹了unicode可以通過utf-8編碼(encoding = utf-8),轉換成utf-8表示的str,在上一節也可以看出unicode也可以通過gbk編碼(encoding=gbk),轉換成gbk表示的str。這裡有點暈,留作第一個問題,後面解釋

unicode與utf8之間的相互轉換可以計算得知,但unicode與gbk之間的相互轉換沒有計算公式,就只能靠查表了,就是說有一張映射表,有某一個漢字對應的unicode表示與gbk表示的映射關係

>> us = u‘嚴’

>>> us

u‘嚴’

>>> us.encode(‘gbk’)

‘ÑÏ’

>>> us.encode(‘gb2312’)

‘ÑÏ’

>>> us.encode(‘gb18030’)

‘ÑÏ’

>>> s = ‘嚴’

>>> s

‘ÑÏ’

>>>


從上不難看出,嚴的unicdoe編碼是4e25,GBK編碼是d1cf,因此us通過gbk編碼就是d1cf。同樣也能看到,GB18030,GBK,GB2312是兼容的

為什麼print us.encode(‘utf-8’)打印出“涓”

ss = us.encode(‘utf-8’), ss是一個str型別,直接打印結果有點奇怪,一個“涓”字,那一個str型別的“涓”是哪些二進制組成的呢

>>> s = ‘涓’

>>> s

‘丒


可以看到,str型別的“涓”,其二進制是E4B8,跟’嚴’的utf8編碼(E4B8A5)相差了一個A5,那麼就是因為A5顯示不出來,驗證如下:

>>> print ‘–%s–‘ % ss

?


因此,只是碰巧顯示了“涓”而已,事實上ss跟“”涓“”毫無關係

回答第一個問題:str型別到底是什麼

在上上小節,提到了utf-8編碼的str,與gbk編碼的str,感覺有點繞。我們知道,一個漢字‘嚴’,可儲存的編碼格式可以是gbk(’xd1xcf’),也可以是utf-8(’xe4xb8xa5’),那麼當我們在終端敲入這個漢字的時候,是哪一種格式呢?取決於終端預設編碼。

windows上(預設終端編碼為gbk):

>>> s = ‘嚴’

>>> s

‘ÑÏ’


Linux上(預設終端編碼為utf-8):


>>> a = ‘嚴’

>>> a

‘严’

同樣一個漢字,同樣都是Python中的str型別,在不同的編碼格式下,其二進制是不一樣的。因此,其長度也是不一樣的,對於str型別,其長度是對應的位元組長度。

也能看出gbk編碼的位元組長度一般小於utf-8,這也是gbk繼續存在的一個原因。

這裡,要強調一下,unicode的二進制形式是與終端的編碼格式無關的!這個也不難理解。

unicode函式

str型別到unicode型別的轉換,出了上面提到的str.decode,還有一個unicode函式。兩個函式的簽名為:

unicode(object[, encoding[, errors]])

Return the Unicode string version of object using one of the following modes:

 

str.decode([encoding[, errors]])

Decodes the string using the codec registered for encoding. encoding defaults to the default string encoding.


二者引數相同,事實上二者是等價的,encoding的預設值也是一樣的,都是sys.getdefaultencoding()的結果。for example:


>>> s = ‘嚴’

>>> newuse = unicode(s)

Traceback (most recent call last):

File , line 1, in <module>

UnicodeDecodeError: ‘ascii’ codec can‘t decode byte 0xd1 in position 0: ordinal not in range(128)

 

>>> newuse = unicode(s, ‘utf8‘)

Traceback (most recent call last):

File ““, line 1, in

UnicodeDecodeError: ‘utf8‘ codec can’t decode byte 0xd1 in position 0: invalid continuation byte

>>> newuse = unicode(s, ‘gbk’)

>>> newuse

u‘嚴’


第一個UnicodeDecodeError,就是因為系統預設的編碼是asill嗎;第二個UnicodeDecodeError,是因為,s(str型別的實體)的編碼取決於終端預設編碼(即windows下的gbk),為了能打印出來,也就必須用gbk編碼來表示這個str,因此只能查詢gbk與unicode的映射表將s轉換成unicode型別。

為啥呼叫sys.setdefaultencoding

在諸多Python代碼中,都會看到這麼一段:

import sys

reload(sys)

sys.setdefaultencoding(‘utf-8’)


不難猜想,setdefaultencodinggetdefaultencoding是配對的,為啥要將系統的預設編碼設置成utf-8,其實就是解決str到unicode的轉換問題。

上一小節已經提到過,使用unicode函式將str型別轉換成unicode型別時,要考慮兩個因素:第一,str本身是什麼編碼的;第二,如果沒有傳入encoding引數,預設使用sys.getdefaultencoding。encoding引數必須與str本身的編碼對應,否則就是UnicodeDecodeError。

寫python代碼的程式都知道,我們要在py檔案第一行寫上:

# -*- coding: utf-8 -*-

這句話的作用在於,告訴編輯器,該檔案裡面的所有str都採用utf-8編碼,且儲存檔案的時候也是使用utf-8格式。

然後檔案中就會使用下麵的這種代碼。

s=‘中文’

us=unicode(s)


使用unicode強制轉換的時候,都不習慣帶引數,為了保證encoding引數必須與str本身的編碼一致,所以使用setdefaultencoding將系統預設編碼設置為utf-8

亂碼與UnicodeError

下麵介紹幾種常見的亂碼與異常UnicodeError, 大多數亂碼或者異常的原因在前面已經講過了,同時,對於一些亂碼,也試圖給出可行的解決辦法。

UnicodeError包括UnicodeDecodeError 與UnicodeEncodeError ,前者是decode也就是str轉unicode的時候出了異常,後者則是encode也就是unicode轉str的時候出了異常。

對於一個str,直接打印

例子就是上面反覆提到的例子

>>> ss = us.encode(‘utf-8’)

>>> print ss


如果一個str型別來自網絡或者檔案讀取,最好先按照對端encode的方式先decode成unicode,然後再輸出(輸出的時候會自動轉換成期望終端支持的編碼格式的str)

編碼範圍無法包括的漢字

直接上例子

>>> newus = u‘囍’

>>> newus

u‘囍’

>>> newus.encode(‘gbk’)

‘‡Ö’

>>> newus.encode(‘gb2312’)

Traceback (most recent call last):

File , line 1, in <module>

UnicodeEncodeError: ‘gb2312’ codec can‘t encode character u’u56cd in position 0: illegal multibyte sequence

>>>


可以看到,‘囍’字可以被gbk編碼,但是不能被gb2312編碼。

str轉unicode的時候

在上面講unicode函式的時候已經舉過例子,會爆出UnicodeDecodeError 異常。

這個錯誤比較的原因,更多來自str到unicode的預設轉換,比如一個str與一個unicode相加的時候:

>>> a = ‘嚴’

>>> b = u‘嚴’

>>> c = a + b

Traceback (most recent call last):

File , line 1, in <module>

UnicodeDecodeError: ‘ascii’ codec cant decode byte 0xd1 in position 0: ordinal not in range(128)

unicode 與 str相加,str會轉換為unicode,使用預設的unicode(strobj, encoding = sys.getdefaultencoding())

看起來向unicode編碼的字串

某些情況下,我們打印出一個str型別,看到結果是’嚴’, 或者’u4e25’,對於這個字串,是不是很眼熟,不錯, ‘嚴‘的unicode編碼就是u’u4e25’。仔細一看,只是在引號前面多了一個u(表示是一個unicode型別)。那麼當我們看到一個’u4e25’的時候,怎麼知道對應的漢字是什麼?對於已知的這種格式的str,自然可以手動加一個u,然後在終端輸出,但是如果是一個變數,需要自動轉換成unicode呢,這個時候就可以使用python-specific-encodings中的unicode_escape

>>> s = ‘嚴’

>>> s

‘\u4e25’

>>> us = s.decode(‘unicode_escape’)

>>> us

u‘嚴’


十六進制格式的字串

有時候,也會看到類似這樣的str,’ÑÏ’, 看起來也很熟悉,跟漢字“嚴”的gbk編碼’xd1xcf’很像,區別在於前者多了一個‘’, 這樣就無法解釋成一個十六進制了。解決辦法是python-specific-encodings中的string_escape

>>> s=‘\xd1\xcf’

>>> s

‘\xd1\xcf’

>>> print s

xd1xcf

>>> news = s.decode(‘string_escape’)

>>> news

‘ÑÏ’

>>> print news

給讀者的一個問題

在這裡留下一個問題:

u’嚴’ == ‘嚴’

傳回值是True 還是 False呢?當然這裡故意省去了背景關係環境,不過明確的說,在不同的編碼環境下,答案是不一樣的,原因都在上文中!

總結與建議

不管怎麼樣解釋,python2.x中的字符編碼還是一件讓人頭疼的事情,即使搞懂了,之後遇到了也可能忘記。對於這個問題,諸多建議如下:

第一:使用python3,就不用再糾結str於unicode了;但是這個很難開發者說了算;

第二:不要使用中文,註釋什麼的都用英文;理想很豐滿,現實很難,只是導致大量的拼音;

第三:對於中文字串,不要用str表示,而是用unicode表示;現實中也不好實施,大家都不願意多寫一個u

第四:只在傳輸,或者持久化的時候對unicode進行encode,相反的過程時decode

第五:對於網絡接口,約定好編解碼格式,強烈建議使用utf-8

第六:看到UnicodeXXXError不要慌,如果XXX是Encode,那麼一定是unicode轉str的時候出了問題;如果是Decode,一定是str轉unicode的時候出了問題。

參考

  • python codecs

  • python-specific-encodings

  • 字符編碼筆記:ASCII,Unicode 和 UTF-8

  • 玩轉Python讓人討厭的編碼問題 



●本文編號354,以後想閱讀這篇文章直接輸入354即可

●輸入m獲取文章目錄

推薦↓↓↓

Web開發

更多推薦18個技術類微信公眾號

涵蓋:程式人生、演算法與資料結構、黑客技術與網絡安全、大資料技術、前端開發、Java、Python、Web開發、安卓開發、iOS開發、C/C++、.NET、Linux、資料庫、運維等。

赞(0)

分享創造快樂