Необходимо было бы использовать SRAM, скорость доступа которого достигает одноразрядных наносекунд.
Многоуровневые кэши обычно работают путем проверки самого маленького кэша Уровня 1 (L1) сначала; если это совершает нападки, процессор продолжается в высокой скорости. Если меньшие неудачные обращения в кэш, следующий больший кэш (L2) проверяется, и так далее, прежде чем внешняя память будет проверена.
Поэтому я был бы recommed Вы ЦП с большим L1 и кэшем L2.