Một số ít bộ xử lý, chủ yếu những bộ xử lý được thiết kế cho sự vận hành máy để bàn tốc độ cao hay những máy chủ mức độ doanh nghiệp, sẽ chứa một bộ nhớ đệm cấp 3 được biết như bộ nhớ đệm L3.

Trong quá khứ chỉ có vài bộ xử lý có bộ nhớ đệm L3, nhưng nó đang trở nên khá thông dụng với các bộ xử lý đa nhân nhanh hơn và mới hơn như là Intel Core và AMD Phenom.

Giải nghĩa

Ta xem như bộ nhớ đệm cấp 3 là xe đẩy những món ăn thêm được đặt kế bên xe đẩy thức ăn trong nhà hàng (trường hợp này được ví như bộ nhớ đệm L2). Nếu món ăn được yêu cầu không có trên bàn (L1 cache miss) hay không có trên xe đẩy đầu tiên (L2 cache miss), người hầu bàn có thể đến xe thứ hai để tìm món ăn theo yêu cầu.

Bộ nhớ đệm L3 chứng tỏ hữu dụng đặc biệt trong các bộ xử lý đa nhân nơi L3 thông thường được chia sẻ trong số các nhân. Mặc dù hiện thời nó như một biểu hiện của chip cao cấp, các bộ xử lý chủ đạo tương lai sẽ bao gồm bộ nhớ đệm L3 như một tính năng tiêu chuẩn.

Tốc độ của bộ nhớ đệm và thiết kế

Giống như bộ nhớ đệm Ll, phần lớn bộ nhớ đệm L2 cũng có tỷ lệ trong phạm vi 90% (hit ratio); do vậy nếu nhìn tổng thể hệ thống 90% thời gian chạy với tốc độ đủ (233MHz trong thí dụ này) để lấy dữ liệu ra khỏi bộ nhớ đệm L1. 10% thời gian sẽ chậm đi để lấy dữ liệu từ bộ nhớ đệm L2. 90% thời gian bộ xử lý vào bộ nhớ đệm L2, dữ liệu chứa trong đó và 10% của thời gian sẽ vào bộ nhớ chính để lấy dữ liệu vì L2 cache miss. Kết hợp cả hai bộ nhớ đệm, hệ thống đạt tốc độ bộ xử lý 90% thời gian (233MHz trong trường hợp này), tại tốc độ bo mạch chủ là 9% thời gian (90% của 10%) (66MHz trong trường hợp này) và tại tốc độ RAM 1% thời gian (10% của 10%, 16MHz trong trường hợp này). Rõ rằng là bộ nhớ đệm LI và L2 rất quan trọng, không có chúng thì hệ thống thường sử dụng bộ nhớ chính, chậm đáng kể so với bộ xử lý.

Điều này mang đến những điểm thú vị khác. Nếu bạn có thể tiêu tiền gấp hai lần tốc độ của bộ nhớ chính (RAM) hay bộ nhớ đệm L2, cách nào để bạn cải thiện? Nhắc nhở rằng bộ nhớ chính được dùng trực tiếp chỉ khoảng 1% thời gian, nếu tăng gấp đôi tốc độ ở đây, bạn có thể tăng gấp đôi tốc độ hệ thống chỉ trong 1% thời gian! Nghe có vẻ không đủ sự cải tiến để điều chỉnh mức chi phí nhiều như thế. Mặt khác, nếu tăng gấp đôi tốc độ bộ nhớ đệm L2, bạn đang tăng gấp đôi tốc độ hệ thống: 9% thời gian, một sự cải tiến vượt trội toàn diện. Tôi thà cải tiến tốc độ L2 hơn tốc độ RAM!

Phương pháp cải tiến

Những nhà thiết kế bộ xử lý và hệ thống ở Intel và AMD biết điều này và nghĩ ra các phương pháp cải tiến tốc độ của bộ đệm L2. Ở hệ thống lớp Pentium (P5), bộ đệm L2 thường được tìm thấy trên bo mạch và vì vậy phải chạy cùng tốc độ bo mạch. Intel làm sự cải tiến gây ấn tượng đầu tiên bằng cách chuyển bộ đệm L2 từ bo mạch trực tiếp vào bộ xử lý và bước đầu vận hành nó cùng tốc độ của bộ xử lý chính. Những chip bộ đệm được Intel chế tạo và đặt trên khuôn bộ xử lý chính trong gói chip đơn. Việc này quá đắt, vì vậy Pentium II, Intel bắt đầu dùng những chip bộ đệm từ những nhà cung cấp thứ ba như là Sony, Toshiba, NEC, Samsung và những hãng khác. Do những chip bộ đệm này được cung cấp như những chip được đóng gói hoàn tất và không có khuôn cơ bản, Intel đặt chúng trên bo mạch điện dọc theo mặt bộ xử lý. Đây là lý do Pentium II được thiết kế như một hộp hơn là giống một con chip.