반응형 AI3 [ML][용어] GELU 함수 GELU는 입력을 양수일 확률만큼 부드럽게 통과시키는 활성화 함수로, 매끄러운 비선형성과 죽은 뉴런 완화라는 장점이 있지만 ReLU보다 계산이 복잡한 단점이 있습니다. 1. GELU 함수의 정의 GELU(Gaussian Error Linear Unit) 함수는 입력값 x를 확률적으로 통과시키는 활성화 함수입니다.ReLU는 0보다 작으면 아예 끊어버리지만, GELU는 작은 음수도 조금은 통과시켜서 부드러운 출력 곡선을 만듭니다. 수학적으로 정의하면 다음과 같습니다.더보기 Φ(x)는 표준정규분포의 누적분포함수(CDF) 입니다.즉, 평균 0·분산 1인 정규분포에서 임의로 뽑은 값이 x 이하일 확률입니다.따라서 x Φ(x)는 입력 x를 확률 Φ(x) 만큼 통과시킨 값으로 볼 수 있습니다. 여기서, Φ(x)는 .. 2025. 10. 10. [사이트 소개] 간단히 딥페이크를 체험할 수 있는 사이트 TokkingHeads 최근 딥페이크 관련 이슈가 많이 나오고 있습니다.딥페이크의 여러 문제들을 알고 확인해 보는 인공지능 윤리교육이 많이 이루어지고 있습니다. 그런데, 딥페이크를 체험해 볼 수 있는 사이트들은 보통 비용이 많이 나가거나, 조금이라도 전문적인 지식이 있어야 한다던가, 고사양의 컴퓨터가 필요하다던가 하는 경우가 대부분입니다. 이때 간단하게 딥페이크를 체험해 볼 수 있는 사이트가 바로 오늘 소개하는 TokkingHeads입니다.이 사이트에 가장 큰 장점은 로그인이 필요 없고, 웹기반에서 작동하기 때문에, 핸드폰이나 태블릿으로도 사용이 가능하다는 점입니다.물론 웹기반이기 때문에 자잘한 오류들이 일부 있지만, 현재 학교에서 태블릿 위주로 보급되어 있기 때문에 간단히 사용하기에는 매우 좋은 사이트입니다.주의: 사용하다보.. 2024. 6. 28. [IT][NEWS] Runway사 Gen-3 Alpha 소개 지난해 텍스트 만으로 영상을 만드는 Gen-2가 출시되어 큰 이슈가 되었습니다.비록 무료버전에서는 4초밖에 안 되는 짧은 영상이지만, 상당히 높은 퀄리티로 사람들에게 충격을 주었죠.단어나 문장을 조금만 입력해도 멋지게 나왔습니다.Gen-2로 만든 영상예로 이런 멋진 비디오도 단 몇문장으로 쉽게 만들 수 있었습니다.이런 멋진 프로그램을 개발했던 runway 사가 지난 17 기존의 Gen-2를 대폭 개선한 Gen-3 알파를 소개했습니다. Gen-2에 비해 프로프트에 대한 충실도, 일관성 및 움직임이 크게 향상되었습니다.예를 들어, 지난 Gen-2에서 만든 영상을 보면,Gen-2로 제작한 영상뭔가 아이의 표정이 어색하고 이상한 것을 쉽게 눈치채실 수 있을 겁니다.아무래도 자연스럽게 사람의 얼굴을 표현하는 것은.. 2024. 6. 26. 이전 1 다음 반응형
