임베딩이란 무엇인가요? AI가 의미론에 따라 검색할 수 있는 이유
임베딩은 텍스트, 이미지, 오디오 및 기타 콘텐츠를 디지털 벡터 문자열로 변환하는 것으로 이해할 수 있습니다. AI가 의미론적으로 검색할 수 있는 이유는 키워드 검색처럼 단어 하나하나와 일치하기 때문이 아니라, 비슷한 의미가 벡터 공간에서 더 가까워지기 때문입니다. 간...
AI 백과사전 • Admin •
98
대형 모델
Found 22 related articles
RAG란 무엇인가요? 왜 지식 기반 Q&A는 검색 없이는 할 수 없는 이유
RAG는 검색-증강 생성(Retrieval-Augmented Generation)의 약자로, 중국어로는 일반적으로 회수-증강 생성(Retrieval-Augmented Generation)이라고 불립니다. 핵심은 모델이 모든 정보를 기억하게 하는 것이 아니라, 먼저 외부...
AI 백과사전 • Admin •
95
스퍼스 어텐션이란 무엇인가요? 왜 긴 맥락과 추론 비용 문제들이 항상 이 문제를 이야기하는지
희소주의는 간단히 이해할 수 있습니다: 각 토큰이 모든 토큰을 살펴보는 대신, 선택적으로 일부만 살펴보게 하는 것입니다. 이 용어는 긴 맥락과 추론 비용 논의에서 반복적으로 등장하는데, 표준 전면 집중이 강하지만, 맥락이 특히 길어지면 계산과 비디오 메모리 비용이 급격...
AI 백과사전 • Admin •
83
컨텍스트 엔지니어링이란 무엇인가요? 왜 AI 작업의 안정성에 '프롬프트를 작성할 수 있는' 것보다 더 큰 영향을 미치는가
컨텍스트 엔지니어링은 더 화려한 프롬프트를 쓰는 것이 아니라, 모델이 이번에 무엇을 볼 수 있는지, 무엇을 먼저 보는지, 무엇을 무시해야 하는지 체계적으로 결정하는 것입니다. 프롬프트 엔지니어링이 좋은 질문을 쓰는 것과 더 비슷하다면, 컨텍스트 엔지니어링은 전체 입력 ...
AI 백과사전 • Admin •
62
왜 AI가 JSON을 출력할 때마다 항상 뒤집히는 걸까요? 먼저 범위 수를 좁힌 뒤, 체크섬을 만들어서 다시 시도하세요
AI 출력이 JSON을 뒤집는 가장 흔한 이유는 "JSON을 이해하지 못해서"가 아니라, 당신이 제시한 목표가 너무 넓고, 필드가 너무 느슨하며, 내결함성이 보완되지 않기 때문입니다. 모델은 구조적으로 말하는 법을 배울 수 있지만, 자연스럽게 신뢰할 수 있는 직렬화 프...
AI Q&A • Admin •
71
왜 같은 프롬프트 결과가 매번 다를까요? 무작위성, 맥락, 도구 반환을 구분하는 것부터 시작하세요
같은 프롬프트 결과가 매번 다르며, 보통 모델 '펌핑'이 아니라 세 가지 변수를 동시에 넣습니다: 모델 자체의 무작위 샘플링, 대화 기록에 따른 문맥 이동, 그리고 매번 다를 수 있는 외부 도구나 검색 결과. 프롬프트 자체에만 집중하면 문제를 오판할 수 있습니다. 먼저...
AI Q&A • Admin •
100