AI와 대화가 길어질수록 느려지면, 먼저 새 대화를 열고 핵심 배경을 다시 알려 주세요. 대부분 속도는 바로 돌아옵니다. 긴 대화의 계산 비용이 계속 쌓이다가 새 대화에서 0으로 초기화되기 때문입니다. 새 대화에서도 느리다면 아래 세 곳을 확인하세요.
1단계: 이 대화를 짧게 만들기
더 이상 필요 없는 긴 대화는 닫거나 메모로 저장하고, 새 대화에는 꼭 필요한 배경만 가져가세요. 목표, 핵심 숫자, 이미 정해진 결론이 그것입니다. 수만 자 분량의 자료를 한 번에 붙여 넣고 질문을 이어가면 모델이 매번 그 내용을 전부 다시 처리해야 하므로 느려지는 것이 당연합니다. 자료가 많으면 구간별로 처리하게 하거나, 지금 질문과 관련된 부분만 붙여 넣으세요.
2단계: 모델이 느린지 네트워크가 느린지 구분하기
페이지가 계속 빙글 돌고 프롬프트조차 전송되지 않는다면, 먼저 네트워크와 제품 상태를 확인하세요. 네트워크를 바꾸고 페이지를 새로 고친 뒤 다른 시간대에 다시 시도해 보세요. 특정 시간대에만 느리다면 피크 시간 대기열일 가능성이 높으며, 당신의 문제는 아닙니다. 텍스트가 조금씩 나오는데 매우 느리다면 대개 모델의 생성 속도 문제이므로, 더 가벼운 모델로 바꾸거나 짧은 답변을 요청하면 바로 나아지는 경우가 많습니다.
3단계: 답변이 점점 길어지지 않게 하기
"자세히 풀어 달라", "모든 측면을 다뤄 달라"고 요구하면 답변은 당연히 길어지고 대기 시간도 길어집니다. 먼저 핵심만 담은 짧은 답변을 받고, 방향이 맞는지 확인한 뒤 세부 사항을 파고드세요. 웹 검색 기능을 켜 두는 것도 대기 시간을 늘리므로, 급하지 않은 질문은 먼저 검색을 끄고 물어보세요.
새 대화, 네트워크 변경, 짧은 요청을 거친 뒤에도 느리다면 다른 제품이나 모델을 한 번 시험해 보세요. 계정 문제인지, 제품 문제인지, 특정 모델 문제인지 바로 알 수 있습니다. 매일 긴 대화를 나누는 사람이라면 습관을 들이는 것이 좋습니다. 작업마다 새 대화를 열고, 핵심 결론은 제때 메모로 저장하며, 모든 일을 같은 대화창에 쌓아 두지 마세요.
