【发布时间】:2010-10-25 11:26:06
【问题描述】:
我正在尝试编写一个不会将源内存加载到 cpu 缓存的 memcpy 函数。目的是避免缓存污染。 下面的 memcpy 函数可以工作,但会像标准 memcpy 一样污染缓存。我正在使用 P8700 proccesoor 和 Visual C++ 2008 express。我看到了英特尔 vtune 的 cpu 缓存使用情况。
void memcpy(char *dst,char*src,unsigned size){
char *dst_end=dst+size;
while(dst!=dst_end){
__m128i res = _mm_stream_load_si128((__m128i *)src);
*((__m128i *)dst)=res;
src+=16;
dst+=16;
}
}
我有另一个版本,具有相同的结果 - 工作但会污染缓存。
void memcpy(char *dst,char*src,unsigned size){
char *dst_end = dst+size;
__asm{
mov edi, dst
mov edx, dst_end
mov esi,src
inner_start:
LFENCE
MOVNTDQA xmm0, [esi ]
MOVNTDQA xmm1, [esi+16]
MOVNTDQA xmm2, [esi+32]
MOVNTDQA xmm3, [esi+48]
//19. ; Copy data to buffer
MOVDQA [edi], xmm0
MOVDQA [edi+16], xmm1
MOVDQA [edi+32], xmm2
MOVDQA [edi+48], xmm3
// 25. ; Increment pointers by cache line size and test for end of loop
add esi, 040h
add edi, 040h
cmp edi, edx
jne inner_start
}
}
更新:这是测试程序
void test(int table_size,int num_iter,int item_size){
char *src_table=alloc_aligned(table_size*item_size);//return value is aligned on 64 bytes
char *dst=alloc_aligned(item_size); //destination is always the same buffer
for (int i=0;i<num_iter;i++){
int location=my_rand()%table_size;
char *src=src_table+location*item_size;//selecting a different src every time
memcpy(dst,src,item_size);
}
}
main(){
test(1024*32,1024*1024,1024*32)
}
【问题讨论】:
-
请注意,如果您实际研究了几个大型软件,您会发现大多数内存副本实际上复制的数据少于 32 字节,而复制超过 4 KiB 的数据几乎从未发生过。这意味着针对大量数据优化
memcpy()(以牺牲启动开销为代价,使小内存副本的速度变慢)是愚蠢的,而且您的优化只会使实际软件的性能更差。