TLB 심화

이전 게시글에서 간단히 TLB가 왜 필요한지, TLB히트&미스에 대해 살펴보았습니다.

간단히 설명하고 넘어가면 페이징 기법을 사용하여 메모리 가상화를 지원한다면 오버 헤드가 발생하기 때문에 페이지 테이블에 한 번 접근하고, 접근을 통해 프레임에 접근할 때 한번 하기 때문에 메모리 낭비가 발생합니다.

 

TLB히트는 TLB가 있다면 페이지테이블에 거쳐갈 필요 없이 가상주소를 실제 주소로 변환하는 것

TLB미스는 TLB에 없을때 메모리에 있는 페이지 테이블에서 가상 주소에 해당하는 정보를 가져와서 실제 주소로 변환하는 것

 

TLB는 일반적으로 MMU의 일부분이자, 주소 변환의 하드웨어 캐시입니다.

 

 

TLB에는 자주 사용하는 VPN(Virtual Page Number)와 PFN(Physical Frame Number) 정보가 쌍으로 존재하며 이를 사용하여 가상 주소를 실제 주소로 변환하도록 도와주는 하드웨어 캐시입니다.

 

CPU가 페이징 기법으로 주소 변환을 할 때 페이지 테이블이 아닌 TLB에 접근하는데, CPU가 원하는 VPN과 PFN의 정보가 TLB에 있다면, 해당 정보를 빠르게 주소 변환을 할 수 있습니다.

즉, 페이지 테이블 없이 TLB로 가져오기 때문에 주소 변환이 빠르게 수행하는 장점이 있습니다.

 

TLB entry

• TLB는 Full Associative method에 의해 관리됩니다.
  • 일반적인 TLB는 32, 64 또는 128개의 항목을 가질 수 있습니다. 
  • 하드웨어는 전체 TLB를 병렬로 검색하여 원하는 변환을 찾습니다.
  • Other bits : valid bits, protection bits, address-space identifier, dirty bit

Cache

Cache는 임시로 쓰이는 버퍼메모리입니다.

빈번하게 사용하게 데이터들을 하위 메모리보다 빠른 공간에 임시로 넣어두고, 필요할 때마다 바로 쓸 수 있도록 하기 위해 생겨난 기술이자, 구조이자 장치라고 할 수 있습니다.

메모리가 다른 I/O 장치보다는 빠르지만, Process의 속도보다는 많이 느리다. 그래서 전체적인 시스템 성능을 높이기 위해서 메모리에서 데이터를 읽어오는 속도를 빠르게 하기 위해 Cache가 등장한 것.

 

 

TLB가 메모리 성능을 어떻게 향상하는지는 지난 게시글에 참조 지역성의 간단한 설명을 작성했습니다.

접근했던 메모리 공간을 다시 접근하려는 경향을 시간 지역성이라고 합니다. 이로 인해 성능을 향상하게 됩니다.

 

공간 지역성은 어떤 요소에 접근한 상황리라면 그 주변에 접근할 가능성이 높기 때문에 성능의 향상에 도움 됩니다. 그 예로 반복문을 실행할 때 [0] 번째에 접근하면 [1] 번째에 접근할 확률이 높기 때문에 성능 향상으로 이어집니다.

캐시는 한 번에 캐시 라인 단위로 데이터를 로드하기 때문에, 연속된 데이터 접근이 발생하면 한 번의 메모리 접근으로 여러 개의 데이터를 캐시에 로드하게 됩니다. 이는 후속 접근이 캐시에 적중할 가능성을 높여줍니다.

 

Context Switching과 TLB

Context Switching은 CPU가 현재 실행 중인 프로세스의 상태를 저장하고, 다른 프로세스의 상태를 복원하여 실행을 전환하는 과정이라고 지난 게시글에 소개했었습니다. 이때 각 프로세스는 독립된 가상 주소 공간을 가지므로, 프로세스 전환 시 TLB의 내용도 새로운 프로세스의 주소 공간에 맞게 갱신되어야 합니다.

 

1. VPN이 동일한 예시

 

• Process마다 각자의 Virtual Memory를 가지고 있습니다.
• Process A의 VPN 10에 대한 주소 변환 정보가 TLB에 저장되어 있습니다.

 

2. VPN이 동일한 예시

 

• Context Switching이 발생하여 Process B로 넘어가게 됩니다. Process B 역시 VPN10에 대한 주소 변환 정보가 TLB에 저장되어 있습니다. 이런 경우 Process A, B 둘 다 VPN은 10으로 동일하지만 PFN은 서로 다른 것을 확인할 수 있습니다.

 

 

3. VPN이 동일한 예시

 

• 위와 같이 TLB에 정보를 저장하게 되면 어떤 정보가 어떤 프로세스의 정보인지 알 수 없습니다.
• 프로세스에서 서로의 주소 공간이 아닌 곳에 접근을 하게 될 경우 문제가 발생하므로 이를 해결할 방법이 필요합니다.

 

4. VPN이 동일한 예시 해결방법

하드웨어의 도움을 받아 TLB에서 ASID(Address Space Identifier)라는 정보를 추가하여 문제를 해결합니다.

• 어떤 프로세스의 정보인지 구별하기 위해 TLB에서 ASID를 제공
• 이를 통해 프로세스마다 다른 ASID정보를 저장하여 주소 변환을 성공적으로 수행할 수 있도록 합니다.

 

1. PFN이 동일한 예시

• 프로세스 1은 프로세스 2와 같은 PFN 값이 101로 동일
  • 프로세스 1의 VPN은 10이고, 프로세스 2의 VPN은 50입니다.
• 두 개의 프로세스가 PFN 값이 같으므로 페이지를 공유할 수 있습니다. 그러면 메모리의 사용을 줄일 수 있으므로 메모리의 공간을 이전보다 더 확보할 수 있게 된다.
• 하지만, 어떤 프로세스인지 구별을 확인하기 위해 ASID 값도 같이 저장합니다.