Bagaimana Cache Memori Mempercepat Pemrosesan Komputer?

Cache, yang merupakan perangkat penyimpanan data berkecepatan tinggi, adalah tempat mikroprosesor menyimpan data yang paling sering digunakannya. Sama seperti Anda meletakkan peralatan dapur di atas meja dapur saat Anda makan, komputer menyimpan data yang diperlukan untuk digunakan untuk aplikasi tertentu di dalam cache-nya. Jika aplikasi baru muncul yang membutuhkan banyak penggunaan data berbeda, mikroprosesor akan membawa data baru ke dalam memori cache sehingga dapat melakukan tugas yang membutuhkan data ini dengan lebih efisien.

Memori komputer dirancang dalam hierarki. Setiap modul hierarki dikategorikan menurut berapa lama waktu yang diperlukan untuk mengakses data dari jenis modul memori tertentu. Mikroprosesor membutuhkan waktu paling sedikit untuk mengakses data dari memori cache. Memori utama, paling sering dibangun dengan chip memori DRAM, membutuhkan waktu lebih lama untuk mengakses data daripada memori cache. Memori flash, dibuat dengan chip memori Flash, akan memakan waktu lebih lama, sedangkan data pada disk drive, sering disebut memori virtual, akan memakan waktu paling lama.

Kecepatan jam prosesor menentukan tingkat maksimum di mana prosesor dapat mengeksekusi instruksi. Chip memori cache, karena dirancang untuk mengirimkan instruksi atau data secepat mikroprosesor dapat menggunakannya, memungkinkan mikroprosesor untuk bekerja dengan kecepatan penuh. Jika instruksi dan data ada di cache dan bukan di memori utama atau memori disk drive, prosesor dapat bekerja pada kecepatan clock prosesor maksimum yang ditentukan.

Semua komputer menggunakan algoritme manajemen memori yang menyimpan data dan instruksi sedemikian rupa sehingga data dan instruksi yang paling sering digunakan dapat diakses secepat mungkin. Jika komputer memiliki memori cache, mikroprosesor akan menempatkan data dan instruksi yang paling sering dipanggil dalam memori cache berkecepatan tinggi. Algoritma cache memori mikroprosesor menandai data dan instruksi dengan bit data yang digunakannya untuk menentukan data dan instruksi mana yang paling sering digunakan. Algoritme cache juga mentransfer data dan instruksi dari cache yang tidak lagi banyak digunakan untuk memperlambat kecepatan memori utama.

Ukuran memori cache berkecepatan tinggi merupakan faktor utama dalam menentukan seberapa besar peningkatan kecepatan komputer. Karena mereka dapat menyimpan lebih banyak data dalam memori berkecepatan tinggi mereka, cache yang sangat besar meningkatkan kecepatan pemrosesan komputer jauh lebih banyak daripada cache yang lebih kecil. Namun, ada titik pengembalian yang semakin berkurang: Pada titik tertentu, cache yang lebih besar tidak lagi menawarkan keuntungan dalam kecepatan pemrosesan yang akan mengimbangi label harga tinggi dari memori cache yang lebih besar.