您好,登錄后才能下訂單哦!
本篇內容介紹了“python中什么是Unicode文本標準化”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
最近遇到unicodedata
模塊,才知道它的一個應用。某些字符能夠用多個合法的編碼表示,這就會導致一些問題。
如一個字符?
既可以使用\u00f1
,也可以使用n\u0303
表示,如下所示:
In [2]: '\u00f1'
Out[2]: '?'
In [3]: 'n\u0303' # 注意前面有個字符n
Out[3]: '?'
原因是第一種表示\u00f1
為整體表示法,第二種n\u0303
為組合表示法,是n
和字符~
的組合字符。
很顯然,在需要比較字符串的程序中,使用像上面字符的多種表示法會產生問題,如下所示:
In [4]: s1='\u00f1'
In [5]: s2='n\u0303'
In [6]: s1==s2
Out[6]: False
我們期望上面的字符?
在兩種表示下是相等的,這就需要使用unicodedata
模塊,將這些字符標準化:
s1='\u00f1'
s2='n\u0303'
t1 = unicodedata.normalize('NFC', s1)
t2 = unicodedata.normalize('NFC', s2)
In [25]: t1==t2
Out[25]: True
normalize()
第一個參數指定字符串標準化的方式。NFC表示字符應該是整體組成,還有其他標準化方法如NFD
,上面的字符n
和 \u0303
的組合n\u0303
,就是NFD表示法。
埃格斯特朗符號 ?
,在NFC中總是被代換成在視覺上相同的U+00C5(? –在上方帶環的A)。在NFD中,則會換成由U+0041(A) 和U+030A(°)這兩個字符所組成的序列。
標準化對于任何需要以一致的方式處理Unicode文本的程序,正規化是很重要,因為它影響了比較、搜索和排序的意義。
“python中什么是Unicode文本標準化”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。