
原子操作(atomic operation)
,不可分割的操作。其通過原子變量來實現(xiàn),以保證單個CPU
周期內(nèi),讀寫該變量,不能被打斷,進而判斷該變量的值,來解決并發(fā)引起的互斥。
Atomic
類型的函數(shù)可以在執(zhí)行期間禁止中斷,并保證在訪問變量時的原子性。
同時,Linux
內(nèi)核提供了兩類原子操作的接口,分別是針對位和整型變量的原子操作。
(相關資料圖)
對于整形變量的原子操作,內(nèi)核提供了一系列的
API
接口
/*設置原子變量的值*/atomic_t v = ATOMIC_INIT(0); /* 定義原子變量v并初始化為0 */void atomic_set(atomic_t *v, int i); /* 設置原子變量的值為i *//*獲取原子變量的值*/atomic_read(atomic_t *v); /* 返回原子變量的值*//*原子變量的加減*/void atomic_add(int i, atomic_t *v); /* 原子變量增加i */void atomic_sub(int i, atomic_t *v); /* 原子變量減少i *//*原子變量的自增,自減*/void atomic_inc(atomic_t *v); /* 原子變量增加1 */void atomic_dec(atomic_t *v); /* 原子變量減少1 *//*原子變量的操作并測試*/int atomic_inc_and_test(atomic_t *v); /*進行對應操作后,測試原子變量值是否為0*/int atomic_dec_and_test(atomic_t *v);int atomic_sub_and_test(int i, atomic_t *v);/*原子變量的操作并返回*/int atomic_add_return(int i, atomic_t *v); /*進行對應操作后,返回新的值*/int atomic_sub_return(int i, atomic_t *v);int atomic_inc_return(atomic_t *v);int atomic_dec_return(atomic_t *v);
我們下面就介紹幾個稍微有代表性的接口實現(xiàn)
以下基于
Linux
內(nèi)核源碼4.19
,剛看是看的時候,有點摸不著頭腦,因為定義的地方和引用的地方較多,不太容易找到,后來才慢慢得窺門徑。
typedef struct { int counter;} atomic_t;
結(jié)構(gòu)體名稱:atomic_t
文件位置:include/linux/types.h
主要作用:原子變量結(jié)構(gòu)體,該結(jié)構(gòu)體只包含一個整型成員變量counter
,用于存儲原子變量的值。
#define ATOMIC_INIT(i) { (i) }
函數(shù)介紹:定義了一個ATOMIC類型的變量,并初始化為給定的值。
文件位置:arch/arm/include/asm/atomic.h
,由include/linux/atomic.h
引用
實現(xiàn)方法:這個宏定義比較簡單,通過大括號將值包裹起來作為一個結(jié)構(gòu)體,結(jié)構(gòu)體的第一個成員就用就是給定的該值。
#define atomic_set(v,i) WRITE_ONCE(((v)- >counter), (i))#define WRITE_ONCE(x, val) \\({ \\ union { typeof(x) __val; char __c[1]; } __u = \\ { .__val = (__force typeof(x)) (val) }; \\ __write_once_size(&(x), __u.__c, sizeof(x)); \\ __u.__val; \\})static__always_inline void __write_once_size(volatile void *p, void *res, int size){ switch (size) { case 1: *(volatile __u8 *)p = *(__u8 *)res; break; case 2: *(volatile __u16 *)p = *(__u16 *)res; break; case 4: *(volatile __u32 *)p = *(__u32 *)res; break; case 8: *(volatile __u64 *)p = *(__u64 *)res; break; default: barrier(); __builtin_memcpy((void *)p, (const void *)res, size); barrier(); }}
函數(shù)介紹:該函數(shù)也用作初始化原子變量
文件位置:由include/linux/atomic.h
引用arch/arm/include/asm/atomic.h
,再引用include/linux/compiler.h
實現(xiàn)方式:通過調(diào)用WRITE_ONCE
來實現(xiàn),其中WRITE_ONCE
宏實現(xiàn)了一些屏蔽編譯器優(yōu)化的技巧,確保寫入操作是原子的。
atomic_set
調(diào)用WRITE_ONCE
將i
的值寫入原子變量(v)->counter
中,WRITE_ONCE
以保證操作的原子性WRITE_ONCE
用來保證操作的原子性創(chuàng)建union
聯(lián)合體,包括__val
和__C
成員變量定義一個__U
變量,使用強制轉(zhuǎn)換將參數(shù)__val
轉(zhuǎn)換為typeof(x)
類型,傳遞給聯(lián)合體變量__u.__val
調(diào)用__write_once_size
函數(shù),將__c
的值寫入到x
指向的內(nèi)存地址中。函數(shù)返回__u.__val。
union
聯(lián)合體它的特點是存儲多種數(shù)據(jù)類型的值,但是所有成員共享同一個內(nèi)存空間,這樣可以節(jié)省內(nèi)存空間。主要作用是將一個非字符類型的數(shù)據(jù)x
強制轉(zhuǎn)換為一個字符類型的數(shù)據(jù),以字符類型數(shù)據(jù)來訪問該區(qū)塊的內(nèi)存單元。__write_once_size
函數(shù)實現(xiàn)了操作的原子性,核心有以下幾點:該函數(shù)在向內(nèi)存寫入數(shù)據(jù)時使用了volatile
關鍵字,告訴編譯器不要進行優(yōu)化,每次操作都從內(nèi)存中讀取最新的值。函數(shù)中的switch
語句保證了對不同大小的數(shù)據(jù)類型使用不同的存儲方式,可以保證內(nèi)存訪問的原子性。對于默認情況,則使用了__builtin_memcpy
函數(shù)進行復制,而這個函數(shù)具有原子性。barrier()
函數(shù)指示CPU
要完成所有之前的內(nèi)存操作,以及確保執(zhí)行順序與其他指令不發(fā)生重排。/* * ARMv6 UP and SMP safe atomic ops. We use load exclusive and * store exclusive to ensure that these are atomic. We may loop * to ensure that the update happens. */#define ATOMIC_OP(op, c_op, asm_op) \\static inline void atomic_##op(int i, atomic_t *v) \\{ \\ unsigned long tmp; \\ int result; \\ \\ prefetchw(&v- >counter); \\ __asm__ __volatile__("@ atomic_" #op "\\n" \\"1: ldrex %0, [%3]\\n" \\" " #asm_op " %0, %0, %4\\n" \\" strex %1, %0, [%3]\\n" \\" teq %1, #0\\n" \\" bne 1b" \\ : "=&r" (result), "=&r" (tmp), "+Qo" (v- >counter) \\ : "r" (&v- >counter), "Ir" (i) \\ : "cc"); \\} \\#define ATOMIC_OP_RETURN(op, c_op, asm_op) \\static inline int atomic_##op##_return_relaxed(int i, atomic_t *v) \\{ \\ unsigned long tmp; \\ int result; \\ \\ prefetchw(&v- >counter); \\ \\ __asm__ __volatile__("@ atomic_" #op "_return\\n" \\"1: ldrex %0, [%3]\\n" \\" " #asm_op " %0, %0, %4\\n" \\" strex %1, %0, [%3]\\n" \\" teq %1, #0\\n" \\" bne 1b" \\ : "=&r" (result), "=&r" (tmp), "+Qo" (v- >counter) \\ : "r" (&v- >counter), "Ir" (i) \\ : "cc"); \\ \\ return result; \\}#define ATOMIC_FETCH_OP(op, c_op, asm_op) \\static inline int atomic_fetch_##op##_relaxed(int i, atomic_t *v) \\{ \\ unsigned long tmp; \\ int result, val; \\ \\ prefetchw(&v- >counter); \\ \\ __asm__ __volatile__("@ atomic_fetch_" #op "\\n" \\"1: ldrex %0, [%4]\\n" \\" " #asm_op " %1, %0, %5\\n" \\" strex %2, %1, [%4]\\n" \\" teq %2, #0\\n" \\" bne 1b" \\ : "=&r" (result), "=&r" (val), "=&r" (tmp), "+Qo" (v- >counter) \\ : "r" (&v- >counter), "Ir" (i) \\ : "cc"); \\ \\ return result; \\}#define ATOMIC_OPS(op, c_op, asm_op) \\ ATOMIC_OP(op, c_op, asm_op) \\ ATOMIC_OP_RETURN(op, c_op, asm_op) \\ ATOMIC_FETCH_OP(op, c_op, asm_op)
找
atomic_add
找半天,還找到了不同的架構(gòu)下面。:(原來內(nèi)核通過各種宏定義將其操作全部管理起來,宏定義在內(nèi)核中的使用也是非常廣泛了。
函數(shù)作用:通過一些列宏定義,來實現(xiàn)原子變量的add
、sub
、and
、or
等原子變量操作
文件位置:arch/arm/include/asm/atomic.h
實現(xiàn)方式:
我們以
atomic_##op
為例來介紹,其他大同小異!
#define ATOMIC_OP(op, c_op, asm_op) \\static inline void atomic_##op(int i, atomic_t *v) \\{ \\ unsigned long tmp; \\ int result; \\ \\ prefetchw(&v- >counter); \\ __asm__ __volatile__("@ atomic_" #op "\\n" \\"1: ldrex %0, [%3]\\n" \\" " #asm_op " %0, %0, %4\\n" \\" strex %1, %0, [%3]\\n" \\" teq %1, #0\\n" \\" bne 1b" \\ : "=&r" (result), "=&r" (tmp), "+Qo" (v- >counter) \\ : "r" (&v- >counter), "Ir" (i) \\ : "cc"); \\}
首先是函數(shù)名稱atomic_##op
,通過##
來實現(xiàn)字符串的拼接,使函數(shù)名稱可變,如atomic_add
、atomic_sub
等調(diào)用prefetchw
函數(shù),預取數(shù)據(jù)到L1
緩存,方便操作,提高程序性能,但是不要濫用。__asm__ __volatile__
:表示匯編指令"@ atomic_" #op "\\n"
:為匯編注釋"1: ldrex %0, [%3]\\n"
:將%3
存儲地址的數(shù)據(jù),讀入到%0
地址中,ldrex
為獨占式的讀取操作。" " #asm_op " %0, %0, %4\\n"
:" #asm_op "
表示作為宏定義傳進來的參數(shù),表示不同的操作碼add
、sub
等,操作%0
和%4
對應的地址的值,并將結(jié)果返回到%0
地址處" strex %1, %0, [%3]\\n"
:表示將%0
地址處的值寫入%3
地址處,strex
為獨占式的寫操作,寫入的結(jié)果會返回到%1
地址中" teq %1, #0\\n"
:測試%1
寄存器的值是否為0,如果不等于0,則執(zhí)行下面的" bne 1b"
操作,跳轉(zhuǎn)到1
代碼標簽的位置,也就是ldrex
前面的1
的位置: "=&r" (result), "=&r" (tmp), "+Qo" (v->counter)
:根據(jù)匯編語法,前兩個為輸出操作數(shù),第三個為輸入輸出操作數(shù): "r" (&v->counter), "Ir" (i)
:根據(jù)匯編語法,這兩個為輸入操作數(shù): "cc"
:表示可能會修改條件碼寄存器,編譯期間需要優(yōu)化。通過
ldrex
和strex
兩個獨占式的操作,保證了讀寫的原子性。
ATOMIC_OPS(add, +=, add)ATOMIC_OPS(sub, -=, sub)
通過宏定義來實現(xiàn)
atomic_add
和atomic_sub
的定義,下面我們就不一一分析了,原理都是通過ARM
提供的ldrex
strex
也就是我們常說的Load
和Store
指令實現(xiàn)讀取操作,確保操作的原子性。
void set_bit(nr, void *addr); // 設置位:設置addr地址的第nr位,所謂設置位即是將位寫為1void clear_bit(nr, void *addr); // 清除位:清除addr地址的第nr位,所謂清除位即是將位寫為0void change_bit(nr, void *addr); // 改變位:對addr地址的第nr位進行反置。test_bit(nr, void *addr); // 測試位:返回addr地址的第nr位。int test_and_set_bit(nr, void *addr);// 測試并設置位int test_and_clear_bit(nr, void *addr); // 測試并清除位int test_and_change_bit(nr, void *addr);// 測試并改變位
同樣,我們還是簡單介紹幾個接口,其他核心實現(xiàn)原理相同
#define set_bit(nr,p) ATOMIC_BITOP(set_bit,nr,p)#define ATOMIC_BITOP(name,nr,p) \\ (__builtin_constant_p(nr) ? ____atomic_##name(nr, p) : _##name(nr,p))extern void _set_bit(int nr, volatile unsigned long * p);/* * These functions are the basis of our bit ops. * * First, the atomic bitops. These use native endian. */static inline void ____atomic_set_bit(unsigned int bit, volatile unsigned long *p){ unsigned long flags; unsigned long mask = BIT_MASK(bit); p += BIT_WORD(bit); raw_local_irq_save(flags); *p |= mask; raw_local_irq_restore(flags);}#define BIT_MASK(nr) (1UL < < ((nr) % BITS_PER_LONG))#define BIT_WORD(nr) ((nr) / BITS_PER_LONG)#ifdef CONFIG_64BIT#define BITS_PER_LONG 64#else#define BITS_PER_LONG 32#endif /* CONFIG_64BIT */
函數(shù)介紹:該函數(shù)用于原子操作某個地址的某一位。
文件位置:/arch/arm/include/asm/bitops.h
實現(xiàn)方式:
__builtin_constant_p
:GCC
的一個內(nèi)置函數(shù),用來判斷表達式是否為常量,如果為常量,則返回值為1____atomic_set_bit
函數(shù)中BIT_MASK
,用于獲取操作位的掩碼,將要設置的位設置為1,其他為0BIT_WORD
:確定要操作位的偏移,要偏移多少個字通過raw_local_irq_save
和raw_local_irq_restore
中斷屏蔽來保證位操作*p |= mask;
的原子性該文章主要詳細了解了Linux
內(nèi)核鎖的原子操作,原子操作分為兩種:整型變量的原子操作和位原子操作。
ldrex
和strex
來實現(xiàn)位原子操作:通過中斷屏蔽來實現(xiàn)。 標簽: