[CUDA & Modern C++로 GPU 프로그래밍 시작하기] #5: 2D 데이터 처리와 비동기 스트림(Asynchronous Stream) 맛보기

이번 글에서는 지금까지 배운 스레드/블록/그리드 개념을 2차원 데이터에 적용하고, GPU의 비동기(Asynchronous) 기능을 살짝 맛보며 최적화를 향한 첫걸음을 내딛어보겠습니다. 이미지 처리나 행렬 연산 같은 2D 데이터 처리는 실제 GPU 활용 분야에서 매우 흔하고도 중요한 영역입니다. 또한 비동기 스트림을 활용하면 Host와 Device 사이의 작업을 겹치게 만들어 전체 처리 시간을 단축할 수 있다는 점을 알아볼 것입니다.2D 데이터 처리를 위한 블록/그리드 설정지금까지는 1차원 데이터(예: 벡터)에 대한 처리를 주로 다뤘습니다. 하지만 이미지(2D 배열)나 행렬을 다룬다면 2차원적으로 스레드와 블록을 배치하는 것이 직관적일 수 있습니다.2D 스레드 인덱스 계산 예제예를 들어, M x N 크기의..

• format_list_bulleted 개발 이야기/CUDA
• · 2024. 12. 9.
• textsms

[OpenCL 입문 시리즈 3편] 커널 작성 & 빌드: 기본 문법 따라하기

안녕하세요! 지난 글에서 OpenCL 플랫폼과 디바이스 개념을 이해하고, 원하는 디바이스를 선택하는 방법까지 살펴봤습니다. 이제 본격적으로 커널(Kernel) 작성과 빌드 과정을 알아볼 차례예요. OpenCL 커널은 실제로 GPU나 CPU 등 디바이스에서 병렬 실행되는 코드로, 우리가 가속하고 싶은 연산의 핵심 부분이라고 할 수 있죠.이번 글에서는 다음 내용을 다룹니다.OpenCL 커널 기본 문법 소개호스트 코드에서 커널 빌드 방법 복습 및 확장인자 전달 및 메모리 관리 구조 이해CUDA 커널과 비교해 보는 코드 작성 차이점참고할만한 유튜브 자료 링크앞선 글에서 kernel.cl 파일 안에 간단한 add_one 커널을 작성해봤는데, 이번 글에서는 이보다 조금 더 다양한 형태의 커널 코드를 다뤄보면서 기본..

• format_list_bulleted 개발 이야기/OpenCL
• · 2024. 12. 9.
• textsms

[OpenCL 입문 시리즈 2편] 플랫폼과 디바이스 이해하기

안녕하세요, 지난 글에서 OpenCL 개발환경을 준비하고 “Hello OpenCL!” 예제를 통해 간단한 프로그램을 실행하는 과정을 살펴봤어요. 이번 글에서는 본격적으로 OpenCL의 큰 그림을 더 명확히 그려볼게요. OpenCL은 플랫폼(Platform)과 디바이스(Device)라는 개념을 통해 다양한 하드웨어 리소스를 관리하고, 이를 프로그래머가 직접 선택하고 제어할 수 있는 구조를 가지고 있습니다. 쉽게 말해, 플랫폼은 특정 벤더나 특정 드라이버 환경을 대표하는 개념이고, 디바이스는 실제 연산을 수행할 수 있는 하드웨어(GPU, CPU, FPGA 등)를 가리켜요. CUDA가 NVIDIA GPU 하나를 전제로 간단한 API로 리소스를 추상화했다면, OpenCL은 다양한 하드웨어를 유연하게 다루기 위해..

• format_list_bulleted 개발 이야기/OpenCL
• · 2024. 12. 8.
• textsms

[C++20 새기능 소개] 비타입 템플릿 매개변수에 auto사용

C++20에서는 템플릿 프로그래밍의 표현력과 유연성을 높이기 위해 비타입 템플릿 매개변수에 auto를 사용할 수 있게 되었습니다. 이번 글에서는 auto 비타입 템플릿 매개변수의 개념과 사용법, 그리고 이전 버전과 비교하여 어떻게 개선되었는지 알아보겠습니다.auto 비타입 템플릿 매개변수란 무엇인가요?C++20에서는 템플릿 매개변수로 타입이 아닌 값을 받을 때, 그 타입을 auto로 지정할 수 있습니다. 이를 통해 정수형 이외의 타입도 비타입 템플릿 매개변수로 사용할 수 있게 되었습니다. 이는 템플릿 프로그래밍에서 가변적인 값을 더욱 유연하게 처리할 수 있도록 해줍니다.이전 버전에서는 어떻게 했나요?C++17까지는 비타입(non-type) 템플릿 매개변수로 정수형 상수, 포인터, 참조 등 제한된 타입만을..

• format_list_bulleted 개발 이야기/C++
• · 2024. 12. 8.
• textsms

[C++20 새기능 소개] [[likely]]와 [[unlikely]] 속성

C++20에서는 코드의 성능과 가독성을 향상시키기 위한 다양한 기능이 도입되었습니다. 그중에서도 [[likely]]와 [[unlikely]] 속성은 조건문의 분기 예측을 컴파일러에 힌트로 제공하여 최적화를 도울 수 있습니다. 이번 글에서는 이 속성들의 개념과 사용법, 그리고 이전 버전과 비교하여 어떻게 개선되었는지 알아보겠습니다.[[likely]]와 [[unlikely]]란 무엇인가요?[[likely]]와 [[unlikely]]는 C++20에서 도입된 속성(attribute)으로, 조건문에서 어떤 분기(branch)가 더 자주 실행될 것인지 컴파일러에 힌트를 제공하는 역할을 합니다. 이를 통해 컴파일러는 분기 예측(branch prediction)을 최적화하여 실행 성능을 향상시킬 수 있습니다.이전 버전..

• format_list_bulleted 개발 이야기/C++
• · 2024. 12. 8.
• textsms

[C++20 새기능 소개] constexpr의 컨테이너 (std::vector, std::string) 지원

C++20에서는 constexpr 지원이 표준 라이브러리 전반에 걸쳐 확대되어, 이제는 std::vector, std::string 등의 컨테이너를 컴파일 타임 상수 표현식으로 사용할 수 있게 되었습니다. 이번 글에서는 constexpr 확장의 개념과 사용법, 그리고 이전 버전과 비교하여 어떻게 개선되었는지 알아보겠습니다.constexpr 확장이란 무엇인가요?constexpr 키워드는 변수나 함수, 그리고 객체가 컴파일 타임 상수 표현식으로 평가될 수 있음을 나타냅니다. C++20에서는 표준 라이브러리의 여러 컨테이너와 알고리즘에 constexpr이 적용되어, 컴파일 타임에 복잡한 데이터 구조를 생성하고 조작할 수 있게 되었습니다.이전 버전에서는 어떻게 했나요?C++11부터 constexpr이 도입되었지..

• format_list_bulleted 개발 이야기/C++
• · 2024. 12. 8.
• textsms

[OpenCL 입문 시리즈 1편] 개발환경 준비 & 첫 번째 "Hello OpenCL!"

안녕하세요! 이번 포스팅부터 OpenCL(Open Computing Language)을 활용해 GPU 가속 프로그래밍을 시작하려는 입문자 분들을 위해 총 10편에 걸친 시리즈를 진행하려고 해요.OpenCL은 GPU, CPU, FPGA 등 다양한 디바이스에서 병렬 계산을 지원하는 오픈 표준인데요. 흔히 비교되는 CUDA가 NVIDIA GPU를 염두에 둔 전용 기술이라면, OpenCL은 다양한 벤더와 디바이스에서 유연하게 활용할 수 있는 특징이 있어요. “어? 난 이미 CUDA에 좀 익숙한데?” 하는 분들도, 여기서 OpenCL을 배워두면 훨씬 넓은 하드웨어 지원 범위를 가질 수 있게 되는 셈입니다.이번 첫 글에서는 다음과 같은 내용을 담았습니다.OpenCL 개발 환경 준비(Ubuntu, Windows 참조..

• format_list_bulleted 개발 이야기/OpenCL
• · 2024. 12. 8.
• textsms

[CUDA & Modern C++로 GPU 프로그래밍 시작하기] #4: 스레드, 블록, 그리드 개념 정복하기

지난 글에서는 Host-Device 메모리 전송, cudaMalloc, cudaMemcpy 등을 활용하여 벡터 덧셈 예제를 성공적으로 구동해봤습니다. 이제 GPU 병렬 프로그래밍의 핵심인 스레드, 블록, 그리고 그리드 개념을 파고들 차례입니다. 이 개념들은 GPU 상에서 대규모 병렬 연산을 구성하는 뼈대와 같습니다. 오늘은 스레드와 블록, 그리고 이들을 묶어 전체 문제를 분할하는 방식인 그리드(Grid)에 대해 차근차근 살펴보며, "내가 원하는 만큼 병렬화"하는 방법을 이해해보겠습니다.스레드(Thread)란?스레드는 GPU 병렬 연산의 최소 실행 단위입니다. CPU에서도 멀티스레딩을 통해 병렬 처리를 하지만, GPU에서는 수백만 개의 스레드를 가볍게 실행할 수 있습니다. 각각의 스레드는 독립적으로 실행되..

• format_list_bulleted 개발 이야기/CUDA
• · 2024. 12. 7.
• textsms

[C++20 새기능 소개] 클래스 템플릿의 인자 추론 (Class Template Argument Deduction, CTAD)

C++20에서는 클래스 템플릿의 인자 추론(Class Template Argument Deduction, CTAD)이 더욱 강화되어, 클래스 템플릿을 사용할 때 템플릿 인자를 명시적으로 지정하지 않아도 컴파일러가 자동으로 추론할 수 있게 되었습니다. 이번 글에서는 CTAD의 개념과 사용법, 그리고 이전 버전과 비교하여 어떻게 개선되었는지 알아보겠습니다.클래스 템플릿 인자 추론이란 무엇인가요?클래스 템플릿 인자 추론(Class Template Argument Deduction, CTAD)은 클래스 템플릿을 인스턴스화할 때 템플릿 인자를 명시적으로 지정하지 않아도, 컴파일러가 생성자의 인자 등을 기반으로 템플릿 인자를 자동으로 추론하는 기능입니다. 이는 C++17에서 도입되었지만, C++20에서는 사용자 정..

• format_list_bulleted 개발 이야기/C++
• · 2024. 12. 7.
• textsms

[CUDA & Modern C++로 GPU 프로그래밍 시작하기] #3: Host & Device 메모리 관리와 벡터 덧셈 맛보기

이제 우리는 Host(CPU)와 Device(GPU) 코드 구조를 이해하고, 간단한 커널 호출 예제를 통해 GPU 코드가 어떻게 동작하는지 살펴봤습니다. 이번 글에서는 실제로 데이터를 GPU로 보내고, 연산한 뒤 다시 결과를 가져오는 과정을 좀 더 구체적으로 다뤄볼 예정입니다. 즉, Host Device 메모리 전송(cudaMemcpy) 및 메모리 할당(cudaMalloc) 방법을 배우고, 이를 활용한 간단한 벡터 덧셈 예제를 통해 GPU 병렬 연산의 기본을 체험해보겠습니다.Host와 Device 메모리 관리의 기본앞서 말했듯 Host와 Device는 별개의 메모리 공간을 사용합니다. 이는 마치 서로 다른 섬에 사는 두 존재가 다리를 통해 상자를 옮기는 상황과 비슷합니다. 여기서 상자는 데이터, 다리는..

• format_list_bulleted 개발 이야기/CUDA
• · 2024. 12. 7.
• textsms