AI 기능을 붙이면 답변 그 자체보다 그 주변 화면을 더 많이 만들게 됩니다.
기다리는 동안, 글자가 쌓이는 동안, 멈췄을 때, 실패했을 때, 요청이 몰렸을 때입니다.
왼쪽에서 상황을 고르고 질문을 눌러 각 상태를 직접 확인해 보세요. 실제 모델은 부르지 않고, 이 블로그 글로 미리 쓴 답변을 재생합니다.
위의 질문 중 하나를 눌러 보세요.
만든 이유와 과정
이 기술로 무엇을 할 수 있을지 먼저 적고, 이어서 AI 응답 화면의 상태를 하나의 리듀서로 모으고, 미리 쓴 답변을 스트리밍처럼 재생하기까지의 과정을 실제 코드와 함께 적었습니다.
1. AI 기능에서 화면이 맡는 일은 무엇일까요
모델 API를 호출해서 답을 받는 코드는 몇 줄이면 됩니다. 하지만 사용자가 느끼는 품질은 그 몇 줄보다 화면에서 더 많이 갈립니다. 첫 글자가 오기까지 무엇을 보여 줄지, 답이 길어질 때 멈출 수 있는지, 중간에 끊기면 어디까지를 남길지, 요청이 몰려 거절되면 언제 다시 시도하라고 알려 줄지가 모두 화면의 몫입니다.
고객센터 챗봇, 사내 문서 검색 도우미, 글쓰기 도우미, 검색 결과 요약처럼 겉모습은 달라도 AI 답변을 보여 주는 화면은 거의 같은 상태를 거칩니다. 그래서 이 상태들을 한 번 정리해 두면 어떤 AI 기능을 붙이든 그대로 가져다 쓸 수 있을 것 같았습니다.
이 놀이터는 그 상태들을 모델 없이 버튼만으로 하나씩 만들어 보려고 만들었습니다. 실제 모델을 붙이면 느린 응답이나 실패를 일부러 재현하기가 어렵습니다. 화면만 따로 떼어 두면 기획, 디자인과 함께 같은 화면을 보면서 상태마다 어떤 문구와 버튼이 필요한지 이야기할 재료가 됩니다.
2. 답변보다 상태를 먼저 정했습니다
AI 기능을 붙인 화면을 만들어 보면, 답변을 보여 주는 코드보다 답변이 오기 전과 후를 다루는 코드가 더 깁니다. 첫 글자를 기다리는 동안, 글자가 쌓이는 동안, 사용자가 멈췄을 때, 중간에 끊겼을 때, 요청이 몰려 거절됐을 때입니다. 이 예제는 그 상태들을 클릭만으로 하나씩 확인해 보는 놀이터입니다.
그래서 화면보다 상태 목록을 먼저 적었습니다. 이 일곱 가지가 화면이 가질 수 있는 전부이고, 버튼과 안내 문구는 모두 이 값 하나로 정해집니다.
실제 모델은 부르지 않습니다. 이 블로그 글을 근거로 미리 쓴 답변 세 개를 스트리밍처럼 재생하고, 왼쪽 패널에서 네트워크 속도와 결과를 바꿔 각 상태를 일부러 만듭니다. 공개 데모라 요청마다 비용이 드는 구조를 피하려는 선택이기도 합니다.
3. 상태 전환은 리듀서 하나에 모았습니다
isLoading, isStreaming, error를 따로 들고 있으면 "로딩 중이면서 에러" 같은 있을 수 없는 조합이 생깁니다. 상태를 값 하나로 두고, 모든 전환을 리듀서에서만 일어나게 했습니다. 리듀서는 순수 함수라서 화면 없이 단위 테스트로 확인할 수 있습니다.
핵심은 이미 끝난 요청에 늦게 도착한 조각을 버리는 부분입니다. 사용자가 중단을 누른 직후에 네트워크에서 조각이 하나 더 들어와도, 상태가 이미 stopped라면 무시합니다. 실제 스트리밍에서 자주 만나는 경쟁 상태를 리듀서 한 곳에서 막는 셈입니다.
4. 인용 번호를 깨지 않게 잘랐습니다
답변 안의 [1] 같은 인용 번호는 누르면 출처가 강조되는 버튼입니다. 글자 단위로 자르면 [만 먼저 도착해서 잠깐 이상한 글자가 보입니다. 그래서 단어(뒤 공백 포함)와 인용 번호를 깨지지 않는 단위로 잘랐습니다. 실제 모델의 토큰도 이런 경계를 지켜 주지 않기 때문에, 실제 서비스라면 화면 쪽에서 미완성 표시를 감추는 처리가 필요합니다.
src/lib/ai-stream.ts
export function chunkText(text: string, size = 1): string[] { const tokens = text.match(/\[\d+\]|[^\s[]+\s*|\s+|\[/g) ?? []; const chunks: string[] = []; for (let i = 0; i < tokens.length; i += size) chunks.push(tokens.slice(i, i + size).join("")); return chunks;}
모든 조각을 이으면 원문과 같아야 한다는 조건은 단위 테스트로 묶어 두었습니다.
5. 가짜 스트림도 진짜처럼 끊기게 했습니다
미리 쓴 답변을 재생하는 함수는 AsyncGenerator입니다. 실제 모델의 스트림을 읽는 함수와 모양이 같아서, 나중에 이 함수 자리만 fetch 스트림으로 바꾸면 화면 코드는 그대로 쓸 수 있습니다. 한도 초과는 첫 조각 전에, 중간 실패는 답변의 절반쯤에서 에러를 던집니다.
완료된 답변에만 좋아요와 싫어요를 보여 줍니다. 중단되거나 끊긴 답변에 평가를 받으면, 답변이 나빴던 건지 끊겨서 아쉬웠던 건지 구분할 수 없기 때문입니다. 싫어요를 누르면 이유를 고르게 했는데, 데모라 어디에도 보내지 않습니다.
출처 목록은 답변에 실제로 나온 번호만 보여 줍니다. 중간에 끊긴 답변이라면 뒤쪽 출처는 아직 근거로 쓰이지 않았으니 감춥니다. 한도 초과는 답변 영역 대신 안내를 띄우고, 10초 카운트다운이 끝나야 다시 시도 버튼이 눌립니다. 바로 다시 누를 수 있으면 같은 거절을 반복하게 됩니다.
여기서 만든 상태와 부품은 다음 LAB 예제에서 실제 모델에 붙여 볼 생각입니다. 그때는 요청 한도를 서버에서 지키고, 모델 키를 브라우저에 두지 않는 일이 더해집니다.