หน่วยประมวลผลกลางจะทำงานตามชุดคำสั่ง (instructions) ที่อ่านขึ้นมาจากหน่วยความจำหลักเท่านั้น จะเรียกสถาปัตยกรรมของระบบคอมพิวเตอร์ที่มีการเก็บโปรแกรม และข้อมูลไว้ในหน่วยความจำหลัก โดยที่หน่วยประมวลผลจะทำงานกับหน่วยความจำเท่านั้น ว่า Stored Program Architecture หรือ คอมพิวเตอร์แบบวอนนอยแมน(von Neumann Computer) โดยตั้งเป็นเกียรติให้กับ “John von Neumann”
ชุดคำสั่งของคอมพิวเตอร์ โดยทั่วไปจะประกอบด้วยส่วนย่อยๆ 2 ส่วน คือ ส่วนOpcode ซึ่งเป็นส่วนที่ระบุประเภทของการประมวลผล และส่วน Operand ซึ่งเป็นส่วนที่ระบุข้อมูลสำหรับการประมวลผลตามที่ระบุใน opcode
โดยปกตินิยมใช้ไมโครโปรเซสเซอร์ ทำหน้าที่เป็นหน่วยประมวลผลกลาง ในระบบคอมพิวเตอร์ ดังนั้น การอ้างถึงไมโครโปรเซสเซอร์จะอ้างถึงในหน้าที่ที่เป็นหน่วยประมวลผลกลาง โดยคำสองคำนี้อาจใช้แทนกันได้ มีกลไกที่สำคัญ ดังนี้
1. การทำงานของคอมพิวเตอร์ ใช้หลักการเก็บคำสั่งไว้ที่หน่วยความจำ ซีพียูอ่านคำสั่งจากหน่วยความจำมาแปลความหมายและกระทำตามเรียงกันไปทีละคำสั่ง หน้าที่หลักของซีพียู คือควบคุมการทำงานของคอมพิวเตอร์ทั้งระบบ ตลอดจนทำการประมวลผล
2. การทำงานของซีพียู มีความสลับซับซ้อน ผู้พัฒนาซีพียูได้สร้างกลไกให้ทำงานได้ดีขึ้น โดยแบ่งการทำงานเป็นส่วนๆ มีการทำงานแบบขนาน และทำงานเหลื่อมกันเพื่อให้ทำงานได้เร็วขึ้น
