반응형 분류 전체보기79 GPU를 지나 TPU로? 최근 TPU가 각광받는 이유 GPU의 비싼 가격과 막대한 전력 소모가 AI 산업의 발목을 잡으면서, 구글이 만든 고효율 딥러닝 전용 반도체인 TPU가 다시금 주목받고 있습니다.딥러닝 연산에만 집중해 비용 대비 압도적인 성능을 보여주는데, 이는 이제 AI 산업이 성능을 넘어 비용 효율에 중점을 두고 있음을 보여줍니다.특히 TPU 한 대당 6~8개의 HBM이 탑재되는데 이를 대부분 공급하는 삼성전자와 SK하이닉스에게도 새로운 성장의 기회가 되고 있습니다.최근 다시 언급되고 있는 TPU AI가 발전하면서 가장 주목을 받은 것은 한 번에 여러 개의 연산 작업을 처리할 수 있는 GPU입니다. 따라서 GPU를 주로 제작하는 Nvidia의 가치도 급상승했구요. 하지만 최근 들어 GPU 못지 않게 자주 언급되는 이름이 있으니 바로 TPU 입니다.. 2025. 12. 29. [ML][용어] GELU 함수 GELU는 입력을 양수일 확률만큼 부드럽게 통과시키는 활성화 함수로, 매끄러운 비선형성과 죽은 뉴런 완화라는 장점이 있지만 ReLU보다 계산이 복잡한 단점이 있습니다. 1. GELU 함수의 정의 GELU(Gaussian Error Linear Unit) 함수는 입력값 x를 확률적으로 통과시키는 활성화 함수입니다.ReLU는 0보다 작으면 아예 끊어버리지만, GELU는 작은 음수도 조금은 통과시켜서 부드러운 출력 곡선을 만듭니다. 수학적으로 정의하면 다음과 같습니다.더보기 Φ(x)는 표준정규분포의 누적분포함수(CDF) 입니다.즉, 평균 0·분산 1인 정규분포에서 임의로 뽑은 값이 x 이하일 확률입니다.따라서 x Φ(x)는 입력 x를 확률 Φ(x) 만큼 통과시킨 값으로 볼 수 있습니다. 여기서, Φ(x)는 .. 2025. 10. 10. [ML][용어] tanh 함수(하이퍼볼릭 탄젠트 함수) tanh 함수는 -1~1 범위의 비선형 함수로, 평균이 0에 가까워 학습이 안정적이지만, 경사 소실 문제와 ReLU 대비 계산 비용이 높은 한계가 있습니다. 1. tanh 함수의 정의 하이퍼볼릭 탄젠트 함수는 입력값을 -1과 1 사이의 값으로 압축하는 S자 형태의 비선형 함수입니다.수학적으로 정의하면 다음과 같습니다.여기서, 입력이 클수록 출력은 1에 가까워지며, 입력이 작을수록 출력은 -1에 가까워집니다.즉, x가 매우 큰 양수면 e^x기 압도적으로 커져서 (x → +∞), f(x) = 1반대로 x가 매우 큰 음수면 e^-x가 압도적으로 커져서 (x → -∞), f(x) = -1 이 됩니다.2. 주요 특징1) 비선형성tanh 함수는 비선형 함수를 제공하므로, 신경망이 복잡한 패턴을 학습할 수 있게 해.. 2025. 10. 10. [Z3 입문 시리즈] 1. 설치부터 해보자! Z3 시작하기 Z3는 논리식이나 제약 조건을 자동으로 풀어주는 SMT 솔버입니다.하지만 아무리 좋은 도구도 설치가 안 되면 말짱 도루묵이죠...이번 글에서는 Z3를 내 컴퓨터에 설치하고, 첫 번째 예제 코드를 실행하는 것까지 함께 해보겠습니다. Python에서 Z3 사용하기Z3는 다양한 언어를 지원하지만, 이 시리즈에서는 가장 많이 사용하는 Python에서 Z3를 사용하는 방법을 기준으로 설명합니다.Python이 설치되어 있어야 합니다.(설치가 안 되어 있다면 👉 Python 공식 사이트에서 설치해주세요.)1. 🍎 Mac에서 설치하기 (macOS)1) 터미널 열기스포트라이트(command + space)를 열고 “터미널”을 입력해 실행합니다.2) z3-solver 설치아래 명령어를 입력하여 Z3 Python 바인딩.. 2025. 4. 7. 이전 1 2 3 4 ··· 20 다음 반응형
