SIMD란? (Single Instruction Multiple Data)

 

SIMD

SIMD는 Single Instruction, Multiple Data의 약자로, 하나의 명령어로 여러 데이터에 대한 연산을 동시에 수행할 수 있는 병렬 처리 기술이다.

이 기술은 데이터를 병렬로 처리함으로써 성능을 크게 향상시킬 수 있다.

 

예를 들어, 벡터나 행렬 같은 대량의 데이터에 같은 연산(더하기, 곱하기 등)을 반복적으로 적용해야할 때, SIMD를 사용하면 이러한 연산을 한 번에 여러 데이터 단위로 처리할 수 있어서 처리 속도가 매우 빨라진다.

 

컴퓨터의 CPU나 GPU에서 널리 사용되고 있고, 특히 그래픽 처리, 과학 기술 계산, 데이터베이스 검색, 대규모 숫자 연산 처리 등 다양한 분야에서 효율성을 발휘한다.

C나 C++에서는 SIMD를 구현하기 위해 특정한 컴파일러 확장(ex. SSE, AVX 지시어)를 사용하거나, 인라인 어셈블리를 사용하는 방법등이 있다.

 

 

 

컴파일러 확장 (SSE 사용)

SSE (Single Instruction, Multiple Data Extensions)

SSE는 단일 명령어로 여러 개의 싱글 프리시전(32비트) 부동 소수점 수를 동시에 처리할 수 있도록 한다.

#include <xmmintrin.h> // SSE 확장을 위한 헤더

void add_floats_sse(float* a, float* b, float* result, int n) 
{
    // n은 4의 배수라고 가정
    for (int i = 0; i < n; i += 4) 
    {
        __m128 a_pack = _mm_loadu_ps(a + i); // a 배열에서 4개의 부동 소수점 수를 로드
        __m128 b_pack = _mm_loadu_ps(b + i); // b 배열에서 4개의 부동 소수점 수를 로드
        __m128 result_pack = _mm_add_ps(a_pack, b_pack); // a_pack과 b_pack을 더함
        _mm_storeu_ps(result + i, result_pack); // 결과를 result 배열에 저장
    }
}

a와 b 배열의 부동 소수점 수를 SSE를 이용해 한 번에 4개씩 더해 result 배열에 저장하는 함수

 

 

 

인라인 어셈블리

인라인 어셈블리는 특정 작업을 위해 직접 CPU 명령어를 사용할 수 있게 해준다.

int add_ints(int a, int b) 
{
    int result;
    __asm__("addl %%ebx, %%eax"
            : "=a" (result)
            : "a" (a), "b" (b));
    return result;
}

__asm__ 구문을 사용해서 a와 b의 값을 더하고 그 결과를 result에 저장

 

 

 

여러 연산을 한 번에 수행할 수 있는 이유

SIMD 명령어를 처리할 수 있는 하드웨어의 지원이 있기 때문이다.

CPU 내에는 SIMD 명령어를 병렬로 처리할 수 있는 특수한 회로가 있는데 이 회로를 통해 여러 데이터를 동시에 처리할 수 있다.

예를 들어서 벡터 덧셈 연산을 하려고 할 때 일반적인 CPU 연산에서는 한 번에 하나의 데이터 쌍에 대해서만 덧셈을 수행할 수 있다.

그래서 네 쌍의 데이터가 있다면, 네 번의 연산이 필요하다.

하지만 SIMD를 지원하는 CPU 에서는 이 네 쌍의 데이터에 대한 덧셈을 하나의 연산으로 처리할 수 있다.

이는 각각의 데이터 쌍이 병렬로 처리되기 때문이다.

 

 

 

SIMD를 지원하는 CPU와 지원하지 않는 CPU

대부분의 현대적인 CPU는 어느 정도의 SIMD 명령어 지원을 제공한다.

인텔과 AMD의 최신 CPU는 SSE(스트리밍 SIMD 확장), AVX(고급 벡터 확장)과 같은 여러 세대의 SIMD 명령어 세트를 지원한다.

 

하지만 오래된 CPU나 저전력을 목표로하는 일부 모바일 기기의 CPU는 SIMD 명령어 세트를 지원하지 않을 수도 있다.

 

그래서 만약 SIMD 명령어를 사용한 코드가 SIMD를 지원하지 않는 CPU에서 실행될 경우에는 예외처리를 해주고 싶다면 실행 시에 프로그램이 동작하는 CPU가 필요한 SIMD 명령어를 지원하는지 확인해야 한다. 이는 CPUID같은 명령어를 통해서 확인이 가능하다.

 

CPUID를 이용해서 SSE, SSE2, AVX 지원 여부를 확인하기

__get_cpuid 함수를 사용해서 cpu의 기능을 확인한다.

eax, ebx, ecx, edx 레지스터에서 반환된 값에 특정 비트를 검색함으로써 SSE, SSE2, AVX 명령어 세트의 지원 여부를 알 수 있다.

하지만 모든 시스템이 <cpuid.h> 헤더 파일을 지원하는 것은 아니다.

특히 Windows 시스템에서는 이 헤더 파일이 없을 수 있으니 그 경우엔 인라인 어셈블리 사용 등 다른 방법을 고려해야 한다.

또한 AVX 지원 확인 시에 osxsaveSupported가 필요한 이유는 OS가 AVX 상태를 저장하고 복원할 수 있는 기능(OSXSAVE)를 지원해야만 AVX 명령어 사용이 가능하기 때문이다. 

#include <iostream>
#include <cpuid.h>

void checkSIMDSupport() 
{
    unsigned int eax, ebx, ecx, edx;

    // SSE와 SSE2 지원 확인
    __get_cpuid(1, &eax, &ebx, &ecx, &edx);
    bool sseSupport = edx & (1 << 25);
    bool sse2Support = edx & (1 << 26);

    // AVX 지원 확인
    __get_cpuid(1, &eax, &ebx, &ecx, &edx);
    bool osxsaveSupported = ecx & (1 << 27);
    bool avxSupport = ecx & (1 << 28) && osxsaveSupported;

    // 결과 출력
    std::cout << "SSE 지원: " << (sseSupport ? "예" : "아니오") << std::endl;
    std::cout << "SSE2 지원: " << (sse2Support ? "예" : "아니오") << std::endl;
    std::cout << "AVX 지원: " << (avxSupport ? "예" : "아니오") << std::endl;
}

int main() {
    checkSIMDSupport();
    return 0;
}​

 

 

만약 지원하지 않는다면 SIMD를 사용하지 않는 대체 코드 경로를 실행해야 한다.

하지만 최소 요구 사항을 설정해 해당 소프트웨어나 애플리케이션이 특정 SIMD명령어 세트를 지원하는 CPU에서만 동작한다는 것을 명시적으로 최소 요구 사항으로 설정하면 해당 명령어를 지원하는 CPU에서는 소프트웨어를 실행하지 못하게 할 수도 있다.

또한 일부 고수준의 프로그래밍 라이브러리나 프레임워크는 다양한 CPU 최적화를 자동으로 처리해줄 수 있다.

예를 들어서 사용하는 수학 라이브러리가 SIMD 최적화를 내부적으로 지원한다면 개발자가 직접 예외 처리를 할 필요가 없다. 이 라이브러리들은 실행 중인 CPU의 특성을 자동으로 감지하고 최적의 코드 경로를 선택한다.

(Ex. Intel MKL, OpenBLAS, Eigen, ARM NEON)

 

 

 

---

 

;참고 출처

- https://en.wikipedia.org/wiki/Single_instruction,_multiple_data

- Text generated by ChatGPT, March 26, 2024, OpenAI, https://chat.openai.com/