거대 언어 모델이라는 기술 범주를 설명합니다. 그것이 무엇인지, 어떤 역량이 AI 앱의 기반이 되는지, 선택할 때 봐야 할 핵심 기준과 능력의 한계는 어디인지 다룹니다.
첫 토큰 지연은 전송을 누른 뒤 모델이 첫 번째 토큰을 내놓기까지의 대기 시간으로, 영어로는 TTFT(Time To First Token)라고 줄여 씁니다. AI 제품이 '빠르다'는 첫인상은 대개 여기서 결정됩니다. 어떤 제품은 3~4초 침묵하다가 글을 시작하고, 어떤...
펑칭 V1.0이 2026년 10월 17일 업무화 심사를 통과해 전국 기상 업무에 정식 투입됐습니다. 발표는 2026 전국 고성능컴퓨팅 학술대회에서 국가슈퍼컴퓨팅인터넷이 맡았습니다. 이 인공지능 전 지구 단·중기 앙상블 예보 시스템은 국가기상센터가 주도하고 슝안기상인공지...
광둥성의 등록 대형 모델이 195개에 달했다는 소식은 2026년 10월 16일 광저우에서 열린 웨강아오대만구 생성형 인공지능 안전발전 연합실험실 성과 발표회에서 공식 공개됐다. 행사에서 발표된 『광둥성 등록 대형 모델 관찰 보고서(2026)』에 따르면 2023년 등록 ...
모델 붕괴는 모델이 자신이 생성한 데이터로 반복 학습할 때 출력 분포가 세대마다 좁아져, 현실 세계의 드물지만 중요한 부분이 사라지는 현상입니다. 흔한 표현은 증폭되고, 드문 표현부터 사라지며, 오류가 정답처럼 고정됩니다. 꼬리는 어떻게 사라지는가 실제 데이터는 가운데...
MAI-Base-2의 사전 학습이 끝났다. 2026년 10월 15일 Microsoft AI는 공식 글 "Frontier Pre-training at Microsoft AI"에서 이 기반 모델의 세부 내용을 공개했다. 전문가 혼합 구조로 전체 파라미터는 2.8조 개이며 ...
위치 인코딩은 문장의 각 단어에 추가로 붙는 순서 신호로, 모델이 어떤 토큰이 먼저이고 어떤 토큰이 뒤인지 알게 해 주는 장치입니다. 자기 주의는 단어들을 서로 비교하지만 순서 자체는 타고나지 못합니다. 위치 정보가 없으면 '개가 사람을 문다'와 '사람이 개를 문다'가...
소수 샷 학습은 대형 모델에 예시 몇 개만 보여주면 그 형식과 기준에 맞춰 새 작업을 수행하게 하는 활용법이다. 모델을 다시 훈련할 필요가 없으며, 질문할 때 입력과 원하는 출력 쌍을 두세 개 먼저 제시하면 모델이 그 안에서 규칙을 파악해 새 내용에도 같은 방식을 적용...
프롬프트 인젝션은 모델이 읽게 될 외부 콘텐츠 안에 지시를 숨겨 넣어, 모델이 데이터를 명령으로 착각하고 그대로 실행하게 만드는 공격 방식이다. 코드를 바꾸지도, 시스템에 침입하지도 않는다. 대형 모델이 맥락을 꼼꼼히 읽는 특성을 이용해 웹페이지, 문서, 이메일, 이미...
