ReLU(Rectified Linear Unit) 함수는 입력값이 양수면 그대로 출력하고, 음수면 0으로 출력하는 활성화 함수입니다. 계산이 간단하고, 딥러닝 모델에서 비선형성을 추가하여 학습을 돕습니다. 1. ReLU 함수의 정의입력 값 x가 양수이면 그대로 출력되고, 음수이거나 0이면 0으로 출력됩니다.수학적으로 정의하면 다음과 같습니다.여기서,입력이 양수일 때: f(x) = x입력이 음수일 때: f(x) = 0 입니다.2. 주요 특징1) 비선형성입력이 양수일 때는 선형 동작하지만, 입력이 음수일 때는 0으로 출력되므로 전체적으로는 비선형적 동작을 합니다. 따라서, 신경망이 복잡한 패턴을 학습할 수 있습니다. 2) 간단한 계산수학적으로 단순해서 계산 비용이 매우 적습니다. 따라서, 큰 규모의 네트..
시그모이드 함수(sigmoid function)는 활성화 함수 중 하나로, 이진 분류 문제에 주로 사용됩니다. 이 함수는 입력 값을 0과 1 사이의 값으로 변환하며, 신경망에 비선형성을 제공해 복잡한 패턴을 학습할 수 있게 합니다. 1. sigmoid 함수의 정의입력값에 음의 지수 함수를 적용하여 변환한 뒤, 그 값을 0과 1 사이의 값으로 압축합니다. 입력값이 양수일수록 1에 가까워지고, 음수일수록 0에 가까워지며, 출력값은 항상 0과 1 사이를 유지합니다. 수학적으로 정의하면 다음과 같습니다.여기서,σ(x): 시그모이드 함수의 출력값.x: 입력값.e: 자연상수, 약 2.718로 알려진 오일러 수입니다. 2. 주요 특징1) 확률 계산에 유용 출력 값이 항상 0과 1 사이에 있습니다. 이 특성 덕분..
GELU(Gaussian Error Linear Unit)함수는 입력 값을 정규 분포의 확률로 변환하여 활성화하는 방식입니다. 입력이 클수록 더 많이, 작을수록 덜 활성화되며, 이를 통해 부드럽고 확률적인 활성화가 이루어집니다. 최신 신경망 모델에서 자주 사용되며, 학습의 안정성과 성능 향상에 기여합니다.GELU (Gaussian Error Linear Unit) 함수는 신경망에서 활성화 함수로 사용되는 함수 중 하나입니다.ReLU (Rectified Linear Unit)와 유사하게 비선형성을 제공하지만, 보다 매끄럽고 자연스러운 방식으로 동작합니다. 특히, Transformer와 같은 최신 신경망 구조에서 ReLU 대신 종종 사용되며, BERT 모델에서도 활성화 함수로 사용됩니다.1. GELU 함수의..
소프트맥스(Softmax) 함수는 머신러닝과 딥러닝에서 많이 사용되는 활성화 함수 중 하나입니다. 보통 여러 클래스에 대한 확률 분포를 계산하는 데 사용됩니다. 주로 분류 문제에서 마지막 출력층에서 사용되며, 주어진 입력 벡터의 각 요소를 0에서 1 사이의 확률 값으로 변환하고, 이 값들의 합이 1이 되도록 만듭니다.소프트맥스(Softmax) 함수는 활성화 함수 중 하나로, 여러 클래스에 대한 확률 분포를 계산하는 데 사용됩니다. 주로 분류 문제에서 마지막 출력층에서 사용되며, 주어진 입력 벡터의 각 요소를 0에서 1 사이의 확률 값으로 변환하고, 이 값들의 합이 1이 되도록 만듭니다. 1. softmax 함수의 정의이 함수는 모든 입력값에 대해 지수 함수를 적용한 후, 그 값들이 전체에서 차지하는 비율..
외국어를 공부하는 것은 너무나 어려운 일입니다.하지만 외국어는 우리 일상 생활에 필요한 일이 많죠.특히 여행이나 출장을 자주가시는 분들이라면 더더욱 그럴겁니다~!하지만 다행히도 이러한 불편함을 해소하기 위해,최근에는 번역기를 사용하시는 분이 많습니다.시중에 여러 번역기들이 많은데 대화를 할 때, 번역기를 주고 받으면 불편한 경우가 많습니다.이를 해결한 제품이 인디고고에 펀딩 되었습니다.세계 최초의 탈부착식 듀얼 스크린 번역기VORMOR 듀얼 스크린 번역기를 소개합니다.https://youtu.be/Oh-CRUiqsp4. VOMOR는 세계 최초 탈부착식 듀얼 스크린 번역기 입니다.탈부착 가능한 5.0인치 메인 화면과 3.0인치 보조 화면으로 이루어져 있고,번역기 통째로 하나를 건내 줄 필요 없이 스크린을 ..
마이크로소프트가 2024년 후반부터 Windows 11 버전 24H2와 Windows Server 2025에 '체크포인트 누적 업데이트'를 도입합니다. 자동으로 업데이트를 받을 수 있으며, 업데이트 과정이 더 효율적으로 개선될 것이라고 합니다.항상 우리를 속썩였던 윈도우 업데이트 지옥에서 이제는 벗어날 수 있을까요?Windows 업데이트를 해본 경험이 모두 많을겁니다.하지만 업데이트는 시간이 많이 걸리죠.시간이 많이 걸리는 것 뿐만 아니라, 또한, 새로운 버그를 발생시키거나 시스템 불안정을 초래하기도 합니다. 마이크로소프트는 Windows 11(윈도우 11)에 체크포인트 누적 업데이트를 도입하여 이러한 문제를 해결하려고 합니다.윈도우 11, 버전 24H2는 "체크포인트 누적 업데이트"라고 불리는 새로운..
Kolmogorov-Smirnov Test(KS 검정)는 데이터를 비교하여 두 데이터 세트가 동일한 분포를 따르는지 또는 한 데이터 세트가 특정 분포를 따르는지를 확인하는 비모수적 통계 검정입니다. 이 검정은 데이터가 정규 분포를 따르는지 확인하는 데 유용합니다. Kolmogorov-Smirnov 검정(KS 검정)은 두 개의 누적 분포 함수(CDF)를 비교하여 두 데이터 세트가 동일한 분포를 따르는지 또는 주어진 데이터가 특정 분포(예: 정규 분포)를 따르는지를 평가하는 비모수적 통계 검정입니다. 이 검정은 연속형 변수에 사용되며, 특히데이터의 분포에 대해 가정하지 않는 비모수 검정입니다.1-표본 KS 검정 (One-sample KS test)- 주어진 데이터가 특정 누적 분포 함수(CDF)를 따르는지 ..
Shapiro-Wilk Test(샤피로-윌크 검정)는 주어진 데이터가 정규 분포를 따르는지를 검정하는 통계적 방법 중 하나입니다. 이 검정은 특히 소규모 표본에 대해 강력한 성능을 보여줍니다. p-value > 0.05이면 귀무가설(데이터가 정규 분포를 따른다)을 기각하지 않고, p-value ≤ 0.05(데이터가 정규 분포를 따른다)이면 귀무가설을 기각합니다.Shapiro-Wilk 검정은 1965년에 Shapiro와 Wilk에 의해 제안된 방법으로, 데이터의 정규성을 검정하기 위해 사용됩니다가설은 다음과 같습니다.- 귀무가설(H0): 데이터가 정규 분포를 따른다.- 대립가설(H1): 데이터가 정규 분포를 따르지 않는다. 검정 절차1. 데이터 정렬데이터 X1,X2,...,Xn을 오름차순으로 정렬합니다.2..
간단한 용어 정리False positive(오탐, 거짓 양성)Binary classification (이진 분류)에서 negative(음성. 보통 0)를 positive(보통 1)로 잘못 판정하는 오류.즉, 오류가 아닌데 오류라고 판정하는 경우.positive(양성)를 negative(음성)로 판정하는 것은 False Negative (거짓음성) 오류.False positive(오탐)는 검사나 테스트 결과가 실제로는 그렇지 않은데도 불구하고 양성(positive)으로 나타나는 경우를 의미합니다. False positive(오탐)의 사례 예를 들어,환자가 암 검진을 받았는데, 실제로는 암이 없는 상태에서 검사 결과가 양성으로 나오거나,정상적인 네트워크 활동을 해킹 시도로 잘못 인식하여 경고를 발생시키는 경..
애플 비전 프로는 출시 전부터 사람들에게 많은 기대를 품게 했습니다. 물론 애플 제품이라 가격이 높을 것은 예상했지만, 그래도 가격이 너무 높았습니다. 경쟁제품인 메타퀘스트가 저렴하고 뛰어난 성능, 그리고 다양한 콘텐츠를 제공한 반면, 애플 비전 프로는 뛰어난 성능을 보여줬지만 그에 걸맞은 콘텐츠도 적었고, 가격은 너무 비쌌습니다. 사실상 실패한 애플 비전 프로. 애플은 과연 어떤 모습을 보여줄까요?시장 분석 회사 IDC는 블룸버그에 애플 비전 프로가 아직 10만 대가 팔리지 않았다고 말했습니다. 물론 애플 비전 프로는 매우 3,500달러(한화 약 400만 원)의 매우 비싼 기기이기 때문에 아이폰이나 아이패드처럼 잘 팔릴 거라고 기대는 모두가 하지 않았을 겁니다. 그럼에도 불구하고 판매량은 기대보다도 적..
생성 AI 기술은 이미 우리 생활에 깊숙히 들어와서 빼놓을 수 없는 경지에 이르렀습니다.하지만 많은 전력 소모는 장기적으로 큰 문제가 되겠죠. 특히 이번 생성형 AI를 활용한 검색이 일반 검색에 10배나 되는 전기를 소비한다는점은 우리에게 많은 시사점을 줍니다. 이미 생성 AI의 많은 전력 소모에 대한 여러 기사와 논문들이 나오고 있습니다.전력 소모에 관한 생성형 AI 기술 발전이 필요한 상황입니다.구글의 AI를 활용해서 검색하면 일반적인 검색보다 10배나 되는 전기를 소모한다고 디지털 트렌드의 의도하지 않은 결과를 탐구하는 연구 회사인 Digiconomist의 설립자인 Alex de Vries 가 밝혔습니다.Alex de Vries 따르면 모든 구글 검색에 AI가 생성한 답변을 추가하면 아일랜드만큼의 ..
아마존이 출시 10개월 만에 보안용 로봇 Astro for business를 단종시켰습니다.기업용 로봇을 더 개발하지 않는다는 것이 아쉽지만...역량을 가정용 로봇에 집중시키겠다는 의도로 보이는데, 이번에는 시장에 혁신적인 돌풍을 불러올 로봇을 개발하길 기대합니다. 아마존은 오는 9월 25일 모든 Astro for business 로봇과 관련된 서비스를 단종하기로 했습니다.아마존은 약 8개월 전에 중소기업을 위한 보안 장치로 2,350달러에 처음 로봇을 출시했지만, 결국 10개월 만에 단종됨에 따라 아마존의 실패한 제품 목록에 들어가게 되었습니다.아마존은 9월 25일에 모든 서비스를 중단함에 따라 개인 데이터가 기기에서 모두 삭제됩니다.아마존은 구매한 고객들에게 사용하지 않은 선불 구독료를 환불해 주고 ..
