最近编码需要实现多线程环境下的计数器操作,统计相关事件的次数。下面是一些学习心得和体会。不敢妄称原创,基本是学习笔记。遇到相关的引用,我会致谢。
当然我们知道,count 这种操作不是原子的。一个自加操作,本质是分成三步的:
1 从缓存取到寄存器
2 在寄存器加1
3 存入缓存。
由于时序的因素,多个线程操作同一个全局变量,会出现问题。这也是并发编程的难点。在目前多核条件下,这种困境会越来越彰显出来。
最简单的处理办法就是加锁保护,这也是我最初的ag真人游戏的解决方案。看下面的代码:
pthread_mutex_t count_lock = pthread_mutex_initializer;
pthread_mutex_lock(&count_lock);
global_int ;
pthread_mutex_unlock(&count_lock);
后来在网上查找资料,找到了__sync_fetch_and_add系列的命令,发现这个系列命令讲的最好的一篇文章,英文好的同学可以直接去看原文。multithreaded simple data type access and atomic variables
__sync_fetch_and_add系列一共有十二个函数,有加/减/与/或/异或/等函数的原子性操作函数,__sync_fetch_and_add,顾名思义,现fetch,然后自加,返回的是自加以前的值。以count = 4为例,调用__sync_fetch_and_add(&count,1),之后,返回值是4,然后,count变成了5.
有__sync_fetch_and_add,自然也就有__sync_add_and_fetch,呵呵这个的意思就很清楚了,先自加,在返回。他们哥俩的关系与i 和 i的关系是一样的。被谭浩强他老人家收过保护费的都会清楚了。
有了这个宝贝函数,我们就有新的解决办法了。对于多线程对全局变量进行自加,我们就再也不用理线程锁了。下面这行代码,和上面被pthread_mutex保护的那行代码作用是一样的,而且也是线程安全的。
__sync_fetch_and_add( &global_int, 1 );
下面是这群函数的全家福,大家看名字就知道是这些函数是干啥的了。
在用gcc编译的时候要加上选项 -march=i686
type __sync_fetch_and_add (type *ptr, type value);
type __sync_fetch_and_sub (type *ptr, type value);
type __sync_fetch_and_or (type *ptr, type value);
type __sync_fetch_and_and (type *ptr, type value);
type __sync_fetch_and_xor (type *ptr, type value);
type __sync_fetch_and_nand (type *ptr, type value);
type __sync_add_and_fetch (type *ptr, type value);
type __sync_sub_and_fetch (type *ptr, type value);
type __sync_or_and_fetch (type *ptr, type value);
type __sync_and_and_fetch (type *ptr, type value);
type __sync_xor_and_fetch (type *ptr, type value);
type __sync_nand_and_fetch (type *ptr, type value);
需要提及的是,这个type不能够瞎搞。下面看下__sync_fetch_and_add反汇编出来的指令,
804889d: f0 83 05 50 a0 04 08 lock addl $0x1,0x804a050
我们看到了,addl前面有个lock,这行汇编指令码前面是f0开头,f0叫做指令前缀,richard blum
老爷子将指令前缀分成了四类,有兴趣的同学可以看下。其实我也没看懂,intel的指令集太厚了,没空看。总之老爷子解释了,lock前缀的意思是对内存区域的排他性访问。
? lock and repeat prefixes
? segment override and branch hint prefixes
? operand size override prefix
? address size override prefix
前文提到,lock是锁fsb,前端串行总线,front serial bus,这个fsb是处理器和ram之间的总线,锁住了它,就能阻止其他处理器或者core从ram获取数据。当然这种操作是比较费的,只能操作小的内存可以这样做,想想我们有memcpy ,如果操作一大片内存,锁内存,那么代价就太昂贵了。所以前文提到的_sync_fetch_add_add家族,type只能是int long ,long long(及对应unsigned类型)。
下面提供了函数,是改造的alexander sundler的原文,荣誉属于他,我只是学习他的代码,稍微改动了一点点。比较了两种方式的耗时情况。呵呵咱是菜鸟,不敢枉自剽窃大师作品。向大师致敬。
#define _gnu_source
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#define inc_to 1000000 // one million...
__u64 rdtsc()
{
__u32 lo,hi;
__asm__ __volatile__
(
"rdtsc":"=a"(lo),"=d"(hi)
);
return (__u64)hi<<32|lo;
}
int global_int = 0;
pthread_mutex_t count_lock = pthread_mutex_initializer;
pid_t gettid( void )
{
return syscall( __nr_gettid );
}
void *thread_routine( void *arg )
{
int i;
int proc_num = (int)(long)arg;
__u64 begin, end;
struct timeval tv_begin,tv_end;
__u64 timeinterval;
cpu_set_t set;
cpu_zero( &set );
cpu_set( proc_num, &set );
if (sched_setaffinity( gettid(), sizeof( cpu_set_t ), &set ))
{
perror( "sched_setaffinity" );
return null;
}
begin = rdtsc();
gettimeofday(&tv_begin,null);
for (i = 0; i < inc_to; i )
{
// global_int ;
__sync_fetch_and_add( &global_int, 1 );
}
gettimeofday(&tv_end,null);
end = rdtsc();
timeinterval =(tv_end.tv_sec - tv_begin.tv_sec)*1000000 (tv_end.tv_usec - tv_begin.tv_usec);
fprintf(stderr,"proc_num :%d,__sync_fetch_and_add cost %llu cpu cycle,cost %llu us\n", proc_num,end-begin,timeinterval);
return null;
}
void *thread_routine2( void *arg )
{
int i;
int proc_num = (int)(long)arg;
__u64 begin, end;
struct timeval tv_begin,tv_end;
__u64 timeinterval;
cpu_set_t set;
cpu_zero( &set );
cpu_set( proc_num, &set );
if (sched_setaffinity( gettid(), sizeof( cpu_set_t ), &set ))
{
perror( "sched_setaffinity" );
return null;
}
begin = rdtsc();
gettimeofday(&tv_begin,null);
for(i = 0;i
pthread_mutex_lock(&count_lock);
global_int ;
pthread_mutex_unlock(&count_lock);
}
gettimeofday(&tv_end,null);
end = rdtsc();
timeinterval =(tv_end.tv_sec - tv_begin.tv_sec)*1000000 (tv_end.tv_usec - tv_begin.tv_usec);
fprintf(stderr,"proc_num :%d,pthread lock cost %llu cpu cycle,cost %llu us\n",proc_num,end-begin ,timeinterval);
return null;
}
int main()
{
int procs = 0;
int i;
pthread_t *thrs;
// getting number of cpus
procs = (int)sysconf( _sc_nprocessors_onln );
if (procs < 0)
{
perror( "sysconf" );
return -1;
}
thrs = malloc( sizeof( pthread_t ) * procs );
if (thrs == null)
{
perror( "malloc" );
return -1;
}
printf( "starting %d threads...\n", procs );
for (i = 0; i < procs; i )
{
if (pthread_create( &thrs[i], null, thread_routine,
(void *)(long)i ))
{
perror( "pthread_create" );
procs = i;
break;
}
}
for (i = 0; i < procs; i )
pthread_join( thrs[i], null );
free( thrs );
printf( "after doing all the math, global_int value is: %d\n", global_int );
printf( "expected value is: %d\n", inc_to * procs );
return 0;
}
通过我的测试发现:
starting 4 threads...
proc_num :2,no locker cost 27049544 cpu cycle,cost 12712 us
proc_num :0,no locker cost 27506750 cpu cycle,cost 12120 us
proc_num :1,no locker cost 28499000 cpu cycle,cost 13365 us
proc_num :3,no locker cost 27193093 cpu cycle,cost 12780 us
after doing all the math, global_int value is: 1169911
expected value is: 4000000
starting 4 threads...
proc_num :2,__sync_fetch_and_add cost 156602056 cpu cycle,cost 73603 us
proc_num :1,__sync_fetch_and_add cost 158414764 cpu cycle,cost 74456 us
proc_num :3,__sync_fetch_and_add cost 159065888 cpu cycle,cost 74763 us
proc_num :0,__sync_fetch_and_add cost 162621399 cpu cycle,cost 76426 us
after doing all the math, global_int value is: 4000000
expected value is: 4000000
starting 4 threads...
proc_num :1,pthread lock cost 992586450 cpu cycle,cost 466518 us
proc_num :3,pthread lock cost 1008482114 cpu cycle,cost 473998 us
proc_num :0,pthread lock cost 1018798886 cpu cycle,cost 478840 us
proc_num :2,pthread lock cost 1019083986 cpu cycle,cost 478980 us
after doing all the math, global_int value is: 4000000
expected value is: 4000000
1 不加锁的情况下,不能返回正确的结果
测试程序结果显示,正确结果为400万,实际为1169911.
2 线程锁和原子性自加都能返回正确的结果。
3 性能上__sync_fetch_and_add,完爆线程锁。
从测试结果上看, __sync_fetch_and_add,速度是线程锁的6~7倍