여러분 혹시 AI가 '사과'라는 단어를 어떻게 알아듣는지 생각해 본 적 있으신가요?모두가 잘 아시다시피 컴퓨터는 글자를 모릅니다.아는 것은 0과 1뿐이며 이것으로 모든 명령어를 처리합니다.그런데 우리는 요즘 AI에게 글을 묻고, AI는 글로 답합니다.그렇다면 AI는 ‘사과’라는 글자를 어떻게 숫자로 바꾸고, 그 숫자에서 의미를 다룰 수 있을까요?AI는 먼저 글자를 토큰이라는 작은 조각으로 나누고, 그 토큰에 번호를 붙입니다. 그리고 그 번호를 의미가 담긴 숫자 묶음으로 바꾸는데, 이 과정이 바로 오늘 다룰 임베딩(Embedding)입니다.이름은 낯설지만, 원리는 생각보다 단순합니다.그냥 간단히 단어를 숫자로 번역하는 작업'이라고 보면 됩니다. 최근에는 그저 단어를 숫자로 변환하는 것 뿐만 아니라 의미까지..
여러 분 혹시 예전에 ChatGPT한테 오늘 뉴스를 물어본 적 있으신가요?물어보면 대부분 "해당 정보를 알 수 없습니다"라는 답을 받게 됩니다.그런데 최근 AI 서비스는 최신 뉴스도 알고, 우리 회사 내부 자료도 척척 참고합니다.같은 AI인데 왜 이런 차이가 날까요?AI가 더 똑똑해서가 아닙니다. 답하기 전에 먼저 자료를 찾아보게 만들었기 때문입니다. 이게 바로 RAG입니다.1. AI는 왜 최신 정보를 모를까ChatGPT, Claude 같은 AI는 특정 시점까지의 데이터를 한꺼번에 학습합니다. 따라서, 그 이후에 생긴 일은 당연히 모릅니다. 이는 2023년까지 책으로 공부한 사람에게 2025년 나온 새로운 소식을 물어보는 것과 같습니다.이건 단순히 업데이트가 안 된 게 아니라 AI 구조 자체의 한계입니..
