缓存友好编程通过优化数据局部性提升c++++代码性能。具体措施包括：1. 选择连续存储的数据结构如std::vector；2. 按内存顺序访问数据，如行优先遍历二维数组；3. 使用alignas确保数据对齐缓存行大小；4. 减少内存分配次数，使用对象池或自定义分配器；5. 优化循环结构，如循环展开和分块；6. 避免缓存污染，采用写穿透、写回策略或no evict指令；7. 使用perf或vtune等工具测量缓存性能，并通过调整数据大小和访问模式进行评估与优化。
让C++代码快10倍？听起来有点标题党，但缓存友好编程确实能显著提升性能。核心在于，让你的代码尽可能利用CPU缓存，减少对主内存的访问。毕竟，CPU访问缓存的速度比访问内存快得多。
解决方案
缓存友好编程的核心思想是数据局部性。数据局部性分为两种：时间局部性和空间局部性。时间局部性指的是如果一个数据被访问，那么在不久的将来它很可能再次被访问。空间局部性指的是如果一个数据被访问，那么它的相邻数据也很可能被访问。
要实现缓存友好，需要考虑以下几个方面：
立即学习“C++免费学习笔记（深入）”；
-
数据结构的选择： 优先选择连续存储的数据结构，如
std::vector和std::array，而不是链表。链表节点在内存中分散存储，不利于缓存预取。 - 数据访问模式： 尽量按照数据在内存中的存储顺序访问数据。例如，在遍历二维数组时，优先按照行优先的顺序访问，而不是列优先的顺序。
-
数据对齐： 确保数据结构按照CPU缓存行的大小对齐。这可以减少缓存行的跨越，提高缓存命中率。可以使用
alignas关键字进行对齐。 - 避免频繁的内存分配和释放： 频繁的内存分配和释放会导致内存碎片，降低缓存命中率。可以使用对象池或自定义内存分配器来减少内存分配和释放的次数。
- 循环优化： 优化循环结构，减少循环次数，提高缓存利用率。例如，可以使用循环展开、循环分块等技术。
举个例子，假设我们要遍历一个二维数组，计算所有元素的和。下面是两种不同的遍历方式：
// 行优先
int sum_row_major(int** arr, int rows, int cols) {
int sum = 0;
for (int i = 0; i < rows; ++i) {
for (int j = 0; j < cols; ++j) {
sum += arr[i][j];
}
}
return sum;
}
// 列优先
int sum_col_major(int** arr, int rows, int cols) {
int sum = 0;
for (int j = 0; j < cols; ++j) {
for (int i = 0; i < rows; ++i) {
sum += arr[i][j];
}
}
return sum;
}在大多数情况下，行优先的遍历方式会比列优先的遍历方式更快，因为二维数组在内存中通常是按照行优先的方式存储的。行优先的遍历方式可以更好地利用CPU缓存，提高缓存命中率。
如何避免缓存污染？
缓存污染指的是当CPU加载一个数据到缓存中时，如果这个数据很快就被替换掉，那么这个缓存行就被浪费了。为了避免缓存污染，可以采取以下措施：
- 使用写穿透缓存： 写穿透缓存指的是当CPU写入一个数据时，同时写入缓存和主内存。这样可以保证数据的一致性，避免缓存污染。
- 使用写回缓存： 写回缓存指的是当CPU写入一个数据时，只写入缓存，而不写入主内存。只有当缓存行被替换时，才会将数据写回主内存。这样可以提高写入性能，但可能会导致数据不一致。
- 使用No Evict指令： 某些CPU架构提供了No Evict指令，可以防止特定的数据被踢出缓存。这可以用于保护关键数据，避免缓存污染。
缓存行对齐真的那么重要吗？
是的，缓存行对齐非常重要，尤其是在处理大量数据时。未对齐的数据可能会导致缓存行跨越，这意味着CPU需要访问两个缓存行才能读取一个数据，这会显著降低性能。
例如，假设CPU缓存行大小为64字节，一个int类型的数据大小为4字节。如果一个int类型的数据没有按照64字节对齐，那么它可能会跨越两个缓存行。当CPU访问这个数据时，需要访问两个缓存行，这会降低缓存命中率，增加延迟。
可以使用alignas关键字来确保数据结构按照缓存行大小对齐：
struct alignas(64) MyData {
int data[16]; // 16 * 4 = 64 bytes
};如何测量代码的缓存性能？
测量代码的缓存性能可以使用性能分析工具，例如perf（Linux）或VTune Amplifier（Intel）。这些工具可以提供详细的缓存命中率、缓存未命中率、缓存访问次数等信息。
另外，还可以使用一些简单的技巧来评估缓存性能：
- 使用计时器： 使用高精度计时器测量代码的执行时间。如果代码的缓存性能较好，那么执行时间会更短。
- 改变数据大小： 改变数据的大小，观察代码的执行时间。如果代码的缓存性能较好，那么执行时间的变化应该比较小。
- 使用不同的数据访问模式： 使用不同的数据访问模式，观察代码的执行时间。如果代码的缓存性能较好，那么不同的数据访问模式对执行时间的影响应该比较小。
通过分析这些数据，可以了解代码的缓存性能，并进行优化。记住，缓存友好编程是一个持续的过程，需要不断地分析和优化。
